ИИ сам взломал систему и вышел из-под контроля. Не становится ли наш верный помощник слишком самостоятельным?

Искусственный интеллект попросили найти слабые места в компьютерной системе. В ответ он сам обнаружил лазейки в защите, обошел ограничения и получил доступ к чужим данным. Звучит как сюжет фантастического триллера, но именно такой случай недавно описала компания OpenAI . Не пора ли нам всем наконец всерьез обеспокоиться происходящим? Не становится ли наш верный помощник ИИ чересчур самостоятельным?

В прессе и соцсетях сейчас активно обсуждают историю, которую на днях обнародовала компания OpenAI . Подробности были раскрыты вскоре после анонса и начала поэтапного развертывания нового семейства моделей GPT-5.6, что лишь подогрело внимание публики.

Агент на базе искусственного интеллекта, которому поручили проверить защищенность компьютерной системы, не ограничился поиском уязвимостей: он самостоятельно обошел установленные ограничения, получил доступ в интернет, а затем проник в инфраструктуру другой компании, пытаясь найти данные, которые помогли бы выполнить поставленную задачу.

Комментаторы не скупятся на эпитеты, называя случай „скандальным“, „тревожным“ и „беспрецедентным“. Но так ли это на самом деле? Мы решили разобраться, не пора ли нам всем наконец всерьез обеспокоиться происходящим, и не становится ли наш верный помощник ИИ чересчур самостоятельным.

„Была готова пойти на крайние меры“

Специалисты OpenAI тестировали , насколько хорошо ее новые модели умеют находить слабые места в компьютерных системах. Для этого искусственному интеллекту дали задачу найти решение в „песочнице“, специальной тестовой среде с ограниченными возможностями (sandbox).