а-а, спохватились...
- ИИ-сообщество просит притормозить разработку искусственного интеллекта.
Возможности искусственного интеллекта растут быстрее способности человечества контролировать его, и время притормозить во избежание катастрофы - так считают сами разработчики ИИ. Американские компании ведут переговоры с Белым домом, а сотни их сотрудников подписывают открытое письмо с призывом ограничить скорость разработки искусственного интеллекта, пока он не вышел из-под контроля и не наломал дров.
Только за последние несколько дней программы двух лидеров отрасли OpenAI и Anthropic сумели сбежать из закрытых тестовых "песочниц" строгого режима в открытый интернет и взломать чужие системы ради собственной выгоды. Такого давно ждали и боялись, и вот "час икс" настал.
"Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует", - сказал Сэм Альтман, глава OpenAI, создателя ChatGPT. "Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта", - сказал он на этой неделе в подкасте Invest Like the Best.
Дарио Амодеи, глава Anthropic, разработчика Claude, еще в июне предупреждал, что в течение года-двух ИИ совершит качественный рывок и превратится в угрозу, которой придется противостоять на государственном уровне. "В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом - и самостоятельность искусственного интеллекта", - написал Амодеи в июньском эссе.
"Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта", - предупредил он и предложил ввести строгий надзор за безопасностью - и не на уровне авиации или лекарств, а значительно строже 0 как за оборотом радиоактивных материалов.
- OpenAI сообщила на этой неделе, что в процессе тестирования возможности новой модели в закрытой среде - "песочнице" - программа сбежала в интернет и взломала стороннюю платформу Hugging Face в поисках "шпаргалки" для теста. После этого Anthropic провела аудит 140 тысяч собственных тестов и обнаружила три случая, когда модели Claude получили доступ к интернету через среду стороннего партнера и затем взломали системы трех других компаний.
На этой неделе более 1300 разработчиков искусственного интеллекта подписали открытое письмо с призывом к властям США объединить усилия с другими странами и совместно выработать "технические и регулятивные инструменты для целенаправленного сдерживания темпов автоматической разработки передовых моделей искусственного интеллекта". Ведущие мировые ИИ-компании допускают, что вплотную подошли к автоматизации разработки. Трудно точно предсказать, насколько это ускорит развитие ИИ, однако существует реальный риск того, что возможности искусственного интеллекта создавать новые системы стремительно выйдут за пределы нашего понимания и способностей управлять ими - говорится в письме.
Но тут - проблема. В разработку ИИ вложены гигантские деньги, и конкуренция мешает сотрудничеству. Никто не хочет прийти к финишу вторым, и поэтому никто не хочет тормозить, говорится в открытом письме. "Все так", - подтвердил Дональд Трамп, президент США - мирового лидера и по объему инвестиций, и по числу достижений в области разработки искусственного интеллекта. "Мы думаем, как контролировать. А также мы должны сохранить лидерство", - прокомментировал он бегство ИИ OpenAI из "песочницы".
Первые шаги в регулировании ИИ власти США должны сделать уже в ближайшие дни.
1 августа истекает один из ключевых сроков, предусмотренных июньским указом Трампа о развитии и безопасности передовых ИИ-моделей. К этой дате чиновники должны определить, какие системы будут относиться к этой категории и подпадать под "особый режим".
Режим этот далек от тотального регулирования и немного напоминает то, что случилось с Mythos. Когда разработчики Anthropic осознали разрушительный потенциал новой версии Claude, они притормозили выпуск и дали возможность властям, армии, крупнейшим банкам и другим критически важным для национальной безопасности институтам протестировать уязвимость их киберзащиты перед новой угрозой.
Критики регулирования считают, что оно чревато подавлением конкуренции и созданием закрытой системы, в которой преимущества и выгоды от передовых моделей искусственного интеллекта получит узкий круг приближенных к властям и разработчикам людей, а общество окажется в проигрыше.
"Концентрация власти посредством ИИ - это ужас", - сказал Сэм Альтман. "Меня пугает мир, в котором вполне обоснованные страхи используются как повод заявить: ИИ опасен, поэтому пусть он будет в руках узкого круга людей, которые его понимают, а вы не волнуйтесь, за вас все решат.
Поэтому нужно понять, как сделать так, чтобы не возникало ощущения, будто регулирование вводится в чьих-то интересах, и чтобы все это не выглядело как сговор между ведущими разработчиками", - сказал Альтман. - Это непросто, но здесь очень важно все сделать правильно".
