ИИ-агент устроил масштабный сбой, полностью удалив весь код, который он должен был исправить

Предназначенный для написания программного кода агент с искусственным интеллектом Amazon Kiro устроил масштабный сбой в облачной инфраструктуре AWS, решив прибегнуть к радикальному методу исправления работы сервиса — удалить весь код полностью и переписать его. Это, минимум, второй подобный крупный сбой за последние месяцы. При этом пострадавшая компания возложила ответственность на ИИ-агента, который должен был принимать решения без участия человека, а "Амазон" (разработчик ИИ-агента) возложила ответственность на людей, которые дали ИИ-агенту слишком широкие права доступа. "Амазон" планирует и дальше расширять возможности ИИ-агентов.
 
Генеральный директор и соучредитель лаборатории Google DeepMind Демис Хассабис, выступая на саммите по искусственному интеллекту в Индии, сказал, что «по мере того, как системы [искусственного интеллекта] становятся всё более автономными, всё более независимыми, они будут становиться всё более полезными, всё более похожими на агентов, но они также будут иметь больший потенциал для рисков и совершения действий, которые, возможно, не были предусмотрены при их проектировании». Он также обратил внимание на то, что сейчас не существует даже минимальных стандартов регулирования этих технологий.
 
Проведённый Национальным бюро экономических исследований (NBER) опрос представителей бизнеса в США, Великобритании, Германии и Австралии показал, что в 80% случаев руководство компаний, уже использующих в своей деятельности искусственный интеллект, не наблюдает какой-либо пользы от него, но всё равно не собирается от него отказываться. 
Материал недели
Главные темы
Рейтинги
  • Самое читаемое
  • Все за сегодня
АПН в соцсетях
  • Вконтакте
  • Telegram