"Черный ящик" ИИ: Глава Anthropic бьет тревогу — успеем ли мы понять ИИ до 2027 года?

Генеральный директор Anthropic Дарио Амодей в своем недавнем эссе подчеркнул острую необходимость в лучшем понимании работы моделей ИИ ("интерпретируемость"), назвав их текущее состояние "черным ящиком". Он поставил перед Anthropic амбициозную цель – научиться надежно выявлять большинство проблем моделей ИИ к 2027 году.

Амодей выразил серьезную обеспокоенность развертыванием все более мощных и автономных систем ИИ без этого понимания, призвав другие ведущие компании (OpenAI, Google DeepMind) и правительства усилить исследования в области интерпретируемости для обеспечения безопасности будущего ИИ.

Можем ли мы управлять системами ИИ, которые до конца не понимаем, или быстрый прогресс создает неизбежный риск?