Безумные темпы, с которыми начал развиваться искусственный интеллект, вызывают нешуточную тревогу. Главы технологических компаний, ведущие инженеры и ученые в количестве более 1000 человек написали открытое письмо с призывом поставить на паузу разработку продвинутых ИИ, чьи возможности превосходят GPT-4. Среди подписавшихся много громких имен: Илон Маск, Стив Возняк, Яан Таллинн, Эван Шарп и другие.
«Системы, использующие продвинутый искусственный интеллект, могут представлять серьезную опасность для общества и человечества», — так начинается открытое письмо.
В самом письме авторы напоминают, что при бесконтрольном развитии нейросети научаться слишком многому и смогут конкурировать с людьми практически во всех сферах. Не закончится ли это автоматизацией большей части рабочих мест и повальной безработицей? Не затопит ли новостные ресурсы потоком контента от нейросетей, способных генерировать неправду?
«Развитый искусственный интеллект может представлять собой фундаментальное изменение в истории жизни на Земле, и его следует планировать и управлять им с должным вниманием» — говорят эксперты.
Отказаться от разработки искусственного интеллекта совсем подписавшиеся не призывают. Они лишь хотят, взяли паузу на полгода в гонке за разработку самого продвинутого ИИ, пока она не обернулась плачевными последствиями. Требуемое время должно быть использовано для установления правил и независимого надзора. Человечество должно обрести уверенность в том, что последствия развертывания ИИ будут положительными, а риски управляемыми. Дальнейшее развитие должно быть сосредоточено на точности, безопасности и прозрачности, должно быть ясно, кто будет нести ответственность за ущерб, причиненный ИИ.
В делах по контролю за ИИ предлагают участвовать правительствам стран через формирование новых ведомств, которые займутся сертификацией продуктов, производимых нейросетями, начнут маркировать контент, создаваемый машиной, и будут отслеживать утечки ИИ-моделей.
Однако опасения авторов письма разделяют далеко не все. Многие эксперты считают, что подписавшиеся раздувают из мухи слона, и потенциал даже самых продвинутых нейросетей пока сильно преувеличен. Отказался подписать письмо и Сэм Альтман — исполнительный директор OpenAI, разработавшей ChatGPT.
