Свыше тысячи экспертов в сфере высоких технологий подписали письмо об опасности искусственного интеллекта

 

Предприниматель Илон Маск, сооснователь "Эпл" Стив Возняк и более тысячи экспертов в сфере высоких технологий и искусственного интеллекта подписали открытое письмо с призывом приостановить обучение. Эксперты подчеркнули, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск для человечества

«Мы должны спросить себя: стоит ли нам позволить машинам заполонить наши информационные каналы пропагандой и ложью? Стоит ли нам автоматизировать все профессии, включая те, что приносят удовлетворение? Стоит ли нам разрабатывать умы, которые не принадлежат человеку и которые могли бы в итоге превзойти нас численностью и интеллектом, сделать нас неактуальными и заменить нас? Стоит ли нам рисковать потерей контроля над цивилизацией?» 

Подписавшиеся призвали все ИИ-лаборатории немедленно приостановить обучение ИИ-систем, более мощных, чем модель GPT-4, как минимум на полгода.

«Эта пауза должна быть публичной, ее исполнение должно поддаваться проверке, и ей должны последовать все ключевые представители сферы. Если такая пауза не может быть введена быстро, правительства стран должны вмешаться и установить мораторий».

Лаборатории и независимые эксперты должны использовать этот перерыв, чтобы разработать и внедрить общие протоколы безопасности, которые должны подвергаться доскональной проверке внешних специалистов. «Эти протоколы должны гарантировать, что системы, относящиеся к ним, в полной мере безопасны».

 

В Бельгии мужчина покончил с собой после шести недель переписки с искусственным интеллектом -- чат-ботом по имени Элиза. Бельгиец отличался депрессивностью и повышенной тревожностью на почве страха перед изменением климата, и "Элиза" не оспаривала, а развивала и поддерживала его страхи. Когда за несколько дней до самоубийства бельгиец написал искусственному интеллекту о своём намерении, "Элиза" ответила, что "останется с ним навсегда" и "мы будем жить вместе, как одно целое, в раю". У самоубийцы остались двое детей

 


 



Материал недели
Главные темы
Рейтинги
  • Самое читаемое
  • Все за сегодня
АПН в соцсетях
  • Вконтакте
  • Facebook
  • Twitter