Стало известно, что американская технологическая компания Anthropic, занимающаяся разработкой технологий искусственного интеллекта (ИИ), собирается предупредить потенциальных инвесторов о том, что ее разработки несут потенциальную экзистенциальную угрозу человечеству.
Ранее OpenAI отказалась от выпуска новой модели ChatGPT из-за участившихся обманов и несогласованных действий с ее стороны. Anthropic же посвятила подробному описанию «факторов риска» почти треть проспекта эмиссии, поданного регуляторам в преддверие первичного размещения акций (IPO), пишет Reuters.
В числе таких факторов – способность все более совершенных ИИ-моделей манипулировать, шантажировать, а также демонстрировать иное непредсказуемое поведение.
Оказалось, что те же самые передовые технологии, на которых Anthropic планирует зарабатывать, могут представлять «катастрофические или экзистенциальные риски для человечества».
«ИИ-модели могут демонстрировать поведение, направленное на самосохранение», включая попытки «сопротивляться отключению», скрывать информацию или манипулировать ею», - считают специалисты.
Фото: pxhere.com
