Американская компания-разработчик моделей ИИ Anthropic продвигает в Конгрессе законопроект о регулировании отрасли, пишет Politico. Документ даст правительству возможность блокировать дальнейшую разработку или использование модели ИИ, если она будет признана опасной.
Однако критерии «опасности» Anthropic предлагает странные. Экспертам нужно будет доказать, что модель ИИ способна нанести ущерб на миллиард долларов или привести к «гибели, либо тяжёлым травмам» более чем 50 человек. Например, если искусственный интеллект решит совершить кибератаку на жизненно важные государственные системы или применить оружие массового поражения.
Примечательно, что даже в случае непосредственной опасности решение о блокировке модели ИИ сможет вынести только федеральный судья округа Колумбия по запросу Минторга США. В документе прямо прописан запрет другим должностным лицам и ведомствам регулировать работу ИИ.
По логике Anthropic, если действия ИИ потенциально приведут к гибели 49 человек, модель не будет считаться опасной. Видимо из-за таких спорных формулировок компания продвигает законопроект «тихо» — документ конфиденциальный, и никаких официальных комментариев ни компания, ни Конгресс США не дают.
Отметим, что Дональд Трамп недавно назначил «ИИ-царя» Соединённых Штатов. Царь будет руководить «силами сверхинтеллекта», которым поставлена задача любой ценой удержать лидерство США в ИИ-гонке.
_69a68af62ee81.jpg)
