Как отмечается, «имеющиеся данные указывают на то, что роль человека сокращается на каждом этапе процесса создания ИИ».
Американская компания Anthropic, занимающаяся разработкой моделей искусственного интеллекта Claude, в четверг выступила с инициативой временно приостановить развитие всё более мощных ИИ-систем на глобальном уровне. Поводом для этого, по её оценке, стали признаки того, что новейшие модели демонстрируют тенденции, потенциально указывающие на возможность выхода из-под человеческого контроля.
В опубликованном отчёте компания, базирующаяся в Сан-Франциско, заявила, что замедление темпов развития передовых ИИ-технологий «вероятно, было бы разумным шагом». При этом подчёркивается: если ограничения введёт лишь одна компания, конкуренты могут воспользоваться этим и получить преимущество.
«Было бы полезно для мира иметь возможность замедлить или временно приостановить развитие ИИ, чтобы общественные институты и исследования в области согласования успевали за технологическим прогрессом», — говорится в заявлении.
В Anthropic считают, что реальная пауза возможна только при согласованных действиях ведущих игроков отрасли в разных странах, прежде всего в США и Китае, — при одновременном соблюдении единых и проверяемых правил.
В компании предупреждают, что без глобального механизма координации правительства и корпорации окажутся перед сложным выбором в вопросах безопасности на фоне усиливающейся конкуренции и геополитического давления.
Инициатива, однако, сталкивается с серьёзным сопротивлением в Вашингтоне и Кремниевой долине. Ряд американских чиновников и руководителей технологических гигантов полагают, что замедление развития ИИ может дать Китаю значительное стратегическое преимущество.
Тем не менее, президент США Дональд Трамп после недавнего визита в Пекин заявил, что стороны обсуждали возможность сотрудничества в сфере безопасности искусственного интеллекта.
Кроме того, на этой неделе он подписал указ, позволяющий правительству проводить предварительную оценку наиболее мощных ИИ-моделей американских компаний до их вывода на рынок.
Anthropic рассчитывает в ближайшие месяцы собрать представителей властей, научного сообщества, правозащитных организаций и конкурирующих компаний, чтобы обсудить возможные механизмы реализации подобной инициативы.
Призыв к координации прозвучал на фоне внутренних данных компании, согласно которым искусственный интеллект стремительно ускоряет собственное развитие.
В Anthropic предупреждают, что такая динамика может запустить цикл самоподдерживающегося ускорения, способный привести к так называемому «рекурсивному самоусовершенствованию» — ситуации, при которой система ИИ становится способной самостоятельно повышать уровень своего интеллекта.
При этом в компании подчёркивают, что подобный сценарий пока не реализован и не является неизбежным. Однако, как говорится в отчёте, «факты свидетельствуют о том, что роль человека сокращается на каждом этапе разработки искусственного интеллекта».