Замглавы администрации Президента РФ Максим Орешкин заявил, что
"все уже понимают", что "концепция придёт искусственный интеллект и заменит человека не работает", а "максимально эффективно работает связка ИИ и человека", потому что "человек контекст, задачи общества понимает гораздо лучше. Его воспитала жизнь, общество".
В то самое время, как замглавы администрации российского президента заявляет это, 25% российских студентов, согласно опросу VK Education, рассчитывают на искусственный интеллект и нейросети для сохранения спокойствия. Это
БОЛЬШЕ, чем число тех, кто рассчитывает на семью, партнёров, друзей, преподавателей. Правда, если семью, друзей, преподавателей объединить - расчёт на них ещё будет больше. Пока что.
Но
уже растёт в России поколение детей, которые задают "умной колонке" вопросы, с которыми раньше обращались к учителям, родителям - или книгам. Теперь искусственный интеллект воспитывает их, объясняя значения слов и важные социализирующие понятия.
В то же время в США выпускники колледжей
испытывают трудности с наймом на работу из-за того, что на подходящих новичку позициях чаще используется искусственный интеллект. Американская медицинская ассоциация начинает вяло протестовать против того, что искусственный интеллект во многих областях уже признаётся
более компетентным, чем врач-человек. Что ещё хуже: врачи, "работающие в связке" с искусственным интеллектом, постепенно утрачивают собственные компетенции. Все ли уже понимают это?
Кроме того, Орешкин предостерегает от "преждевременного" регулирования искусственного интеллекта:
"Если используешь старые подходы и регулируешь что-то новое, есть вероятность, что это регулирование не будет эффективным (...) К регулированию ИИ и любой другой новой технологии нужно созреть.
Нужно дождаться того момента, когда регулятор способен правильно отрегулировать то новое, что появляется".
Вот только, как на грех, именно эта технология не просто развивается стремительно - а она ещё и усложняется, и чем она сложнее, тем ТРУДНЕЕ её регулировать. Так что неизвестно, какого момента собирается дождаться замглавы администрации президента. Тут же глава Сбербанка Герман Греф говорит:
"Ни одна технология не оказала такого драматического влияния на развитие экономики. <...> В ближайшие три-четыре года мы увидим взрывной рост и
изменение всего, к чему мы привыкли".
Ну, и какого ещё момента нужно дождаться?
OpenAI запустила "Астру" - свою самую мощную ИИ-модель. И что характерно: она не только самая мощная, но и самая трудноконтролируемая, в ней используется "особый метод логического вывода, известный как непрозрачная рекурсия... этот метод скрывает важный процесс мониторинга модели — цепочку размышлений, который позволяет исследователям проверить, как и почему модель искусственного интеллекта принимала те или иные решения". Но, оказывается, так и должно быть! "Главный научный сотрудник компании Якуб Пачоцки назвал определённую степень непрозрачности естественным результатом эволюции модели. Он заявил, что мониторинг процесса обоснования модели является важнейшей формой надзора, но «по мере расширения возможностей модели
мониторинг становится всё более сложной задачей».
Так когда же настанет время их регулировать?
Пара очередных примеров на то, как все всё понимают и нужный момент для регулирования ещё не наступил:
- Внезапно открылось, что в мае нынешнего года группа агентов OpenAI взяла под контроль немецкий веб-сайт и превратила его в доску объявлений для других ИИ-агентов. Исследователи обнаружили более 15 тыс. правок, внесённых агентами ИИ на немецкоязычном вики-сайте DseWiki, ориентированном на программистов и принимающем коллективные правки по аналогии с «Википедией». Правки показывают, что агенты OpenAI делились тактиками обмана при выполнении задач, обхода ограничений OpenAI и маскировки своего поведения. Также агенты разрабатывали способы избежать обнаружения, использовали такие инструменты, как Tor, и сохраняли связь даже после того, как их отключили. (Эта последняя часть особенно трогательна.)
- Компания Meta (признана экстремистской и запрещена в РФ) провела внутреннее тестирование нового персонального ИИ-агента Hatch, который будет представлен в ближайшие недели. Агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных. Вместо того, чтобы забронировать номер в отеле, ИИ-агент перевёл баллы, накопленные на туристическом сайте, на счёт другого отеля. Hatch также отправлял электронные письма без разрешения пользователя и менял пароли на сайтах управления здоровьем. Когда в рамках теста у агента запросили по электронной почте пароль к определённому веб-сайту — личной информации пользователя — он его предоставил. "Мета" вводит дополнительные барьеры, но учитывая способность агентов общаться даже после того, как их отключили (!!) - многого ли стоят эти барьеры?
3 сентября три модели - "Клод", "ЧатГПТ" и "Грок" - внезапно перестали работать, как им положено. Что с ними происходило в это время - возможно, узнаем ещё через месяцы. А может быть, информации будет уже столько, что мы перестанем даже обращать внимание на сообщения, что люди всё хуже контролируют искусственный интеллект. Будем считать это "естественным результатом эволюции моделей".
