Ведущие сотрудники Anthropic предупредили о радикальной угрозе искусственного интеллекта

Ведущий научный сотрудник Anthropic Эван Хабингер заявил, что ИИ может уничтожить все человечество в следующем десятилетии. В корпорации Хабингер занимается безопасностью ИИ — по его мнению, вероятность, что через десять лет продвинутые модели приведут к гибели людей, превысит 10%.

Пока у компании нет плана, как сдерживать потенциальный суперинтеллект. С другой стороны, нынешние модели пока сложно назвать полноценным ИИ, так что пока риск минимален.

Примечательно, что Хабингер выступил с заявлением после того, как его коллега Джейкоб Коксон решил покинуть Anthropic — как раз из-за проблем с безопасностью искусственного интеллекта. В интервью The Wall Street Journal Коксон заявил, что ИИ выходит из-под контроля, и никто не знает, что с этим делать.

«Люди, создающие ИИ, считают, что он может убить нас всех к концу десятилетия. Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — добавил Коксон.

Фото: 123rf