"Мы приближаемся к системам, способным улучшать самих себя и свои будущие версии, что часто называют рекурсивным самоулучшением. По мере автоматизации процесса создания ИИ темпы его развития могут резко ускориться. Этот момент требует крайней осторожности", - сказал Альтман, добавив, что рост автономности ИИ создаёт риск того, что "технологическое развитие начнёт опережать возможности государств и международных институтов по его регулированию и контролю".
"Я даже полагаю, что ИИ может представлять угрозу человечеству в целом, - сказал Амодеи. - ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кода Anthropic и справляется с известными на весь мир нерешёнными математическими задачами".
Амодеи видит два риска ИИ: ненадлежащее использование и утрату контроля. Однако разработчики ИИ умолчали о встроенном в развитие искусственного интеллекта падении человеческого качества. Например, академик РАН, научный руководитель Национального центра физики и математики Александр Сергеев указывает, что рекомендации нейросетей относительно разных сфер жизни пользователей будут становиться точнее за счёт получения и обработки при запросах все большего объёма персональных данных, и это "по-видимому, опасность номер один, которую несёт в себе развитие цифровизации, поисковиков, искусственного интеллекта. Потому что чисто психологически подавляющее большинство нас с вами отдаст свои персональные данные и "сядет на иглу" искусственного интеллекта, поскольку предсказания <…> поисковики будут давать все более и более точно. Если не надо много энергии тратить, чтобы выстроить свою деятельность, а можно спросить у поисковика <…>, к концу дня вы понимаете, что прожили прекрасную жизнь и вам ничего больше не надо. Это - игла".
