В последнее время все чаще звучат предложения по координированному замедлению темпов разработки ИИ из соображений безопасности.
Зампред Совбеза России Дмитрий Медведев высказал мнение, что государства могли бы согласовать единые подходы к регулированию искусственного интеллекта, чтобы держать его под контролем, однако на практике этого добиться не удастся.
По его словам, многие сегодня обеспокоены тем, что ИИ представляет опасность, ведет себя непредсказуемо и развивается слишком стремительно по не до конца понятным законам. Немало людей считают, что следует приостановиться и сделать паузу в развитии таких технологий.
«Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом. Ответ прост: они реальны», – написал Медведев в своем Telegram-канале.
По мнению зампреда Совбеза, создатели разных версий генеративного ИИ не до конца откровенны. Они опасаются не за человечество и не за то, что вышедший из-под контроля искусственный интеллект уничтожит людей — такая перспектива, по его словам, довольно туманна.
Реальная угроза, считает он, в другом: программный продукт на базе продвинутого ИИ, управляющий крупным производством или транспортным узлом, может нанести огромный ущерб.
В качестве примера Медведев назвал столкновение в воздухе самолетов или уничтожение АЭС. «И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке», – добавил он.
Самым очевидным решением он назвал попытку договориться на уровне стран об общих принципах регулирования ИИ — тогда появился бы шанс контролировать его развитие. Однако, по его мнению, этого не произойдет из-за жадности корпораций и ненасытности человеческих страстей.
В итоге, считает Медведев, остается лишь надеяться на милость победителя — на гуманизм, который проявит созданный человеком искусственный интеллект.
Ранее глава Anthropic Дарио Амодеи предложил скоординированно замедлить темпы разработки, чтобы выиграть время до того, как модели достигнут критических уровней. Он также призвал из соображений безопасности притормозить создание более мощных моделей ИИ.
Американский предприниматель Илон Маск с этой инициативой тоже согласился.
Самые интересные и важные новости ищите в нашем Telegram-канале, МАКС и Viber. Также следите за нами в Дзен!