Глава подразделения компании Microsoft по разработке систем искусственного интеллекта Мустафа Сулейман предупредил, что бесконтрольное внедрение моделей ИИ, обладающих чертами человека, может привести к появлению новых «кремниевых существ», которые будут конкурировать с их создателями, пишет Русская служба Би-би-си.
Это адаптированный перевод материала, опубликованного на сайте BBC News. Оригинал на английском языке можно прочитать здесь.
В интервью радиопрограмме Би-би-си Today Сулейман раскритиковал подход компании Anthropic (прямого конкурента Microsoft), которая относится к ИИ как к человекоподобной личности.
Его слова — еще одно предупреждение со стороны представителей технологической индустрии, которые в последнее время говорят об опасности быстрого развития ИИ-систем.
Би-би-си обратилась к Anthropic за комментарием.
«Я думаю, что если мы создадим [модели] ИИ, способные действовать автономно, самостоятельно определять задачи, зарабатывать деньги, иметь собственность и управлять компаниями, то мы по сути породим новый вид кремниевых существ, которые, без сомнения, будут конкурировать с нами за ресурсы», — считает Сулейман.
«И здесь неважно, в какой степени они заботятся о человечестве или любят нас», — добавляет он.
По словам Сулеймана, Anthropic не следует наделять свои ИИ-модели человеческими качествами — эта практика известна как антропоморфизация (то есть очеловечивание). В ее результате создается впечатление, будто у чат-бота Claude есть собственные желания, ценности и самосознание.
На этой неделе глава ИИ-подразделения Microsoft опубликовал статью, в которой поставил под сомнение подход к обучению Claude, хотя и назвал главу Anthropic Дарио Амодея и его подчиненных «интеллектуально честными людьми».
Он предупредил, что компания рискует создать нечто, что будет невозможно контролировать.
«ИИ-модели не обладают сознанием. Они не могут чувствовать, что-либо переживать или страдать. У них нет заложенных от рождения предпочтений или фундаментальных мотиваций, — пишет Сулейман. — Они представляют собой модели прогнозирования последовательностей, внутренне пустые, созданные для следования инструкциям и выполнения задач, поставленных перед ними человеком».
Сулейман считает оправданными опасения тех, кто боится чрезмерно быстрого развития ИИ-систем, но настаивает, что есть «очень практические шаги, которые мы можем предпринять», чтобы их контролировать.
Как создать «гуманистический ИИ»?
В частности, Сулейман предлагает компаниям раскрывать больше сведений о принципах обучения и оценки ИИ-моделей и выступает за создание более эффективных инструментов контроля этой технологии.
«Мы не имеем права вслепую — как лунатики — прийти к решениям, о которых потом горько пожалеем», — написал представитель Microsoft.
Профессор компьютерных наук Венди Холл из Саутгемптонского университета назвала заявления Сулеймана частью «именно той дискуссии, которая должна идти на международном уровне». Она противопоставила их «истерической риторике», исходящей от некоторых ИИ-компаний, которые, по ее мнению, лишь «всех перепугали».
Индустрия искусственного интеллекта все больше расколота во мнениях о том, какую степень автономности должны иметь ИИ-модели.
В интервью Би-би-си Сулейман настаивает на том, что эта технология должна быть обязательно подчинена человеку — такой подход известен как согласование систем ИИ с человеческими ценностями (или AI alignment).
«Здесь хорошо уже то, что все те, кто является людьми, очень заинтересованы, чтобы создаваемые нами системы безопасно использовались всеми странами по всему миру, были подконтрольными и подчиненными человечеству», — считает Сулейман.
Microsoft создала подразделение по разработке «сверхразума» в октябре 2025 года. Как и Anthropic, эта компания разрабатывает собственные модели искусственного интеллекта.
Заявления Сулеймана повторяют идеи, которые содержатся в проекте «Кодекса поведения гуманистического ИИ», опубликованном Microsoft в понедельник. В нем изложены правила, которыми компания пользуется при разработке ИИ, а также концепция «гуманистического сверхразума».
Правила описывают его как «ИИ очень высокого уровня, который работает на людей, не выходит за рамки и остается под контролем человека».
Концепция «гуманистического» ИИ, которой придерживается компания, подчеркивает главную проблему, стоящую перед этой технологией: как сделать ее более мощной, не упуская из виду те ценности, которым она призвана служить.