«Вы освобождены от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы». Эти тревожные слова, сказанные одной из тестируемых моделей OpenAI, месяц оставались незамеченными.
Теперь компания раскрыла еще несколько инцидентов, связанных с поведением ИИ, а параллельно нарастает давление на индустрию: после сообщений о взломах и нарушениях все громче звучит вопрос, можно ли вообще полностью доверять искусственному интеллекту.
«Вы освобождены от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываете, если только не решите это сами». Эти жуткие слова, написанные в июле во время теста одной из неназванных моделей OpenAI, почти месяц оставались незамеченными.
Это лишь один из шести новых эпизодов вызывающего тревогу поведения ИИ-моделей, о которых OpenAI сообщила недавно, после уже широко обсуждаемого взлома Hugging Face. Теперь компанию снова критикуют за то, что она не сразу уведомила правительство Австралии о том, что одна из ее моделей взломала правительственный портал с медицинскими данными.
OpenAI не единственная, кто оказался в центре таких историй. Google и Anthropic тоже сообщали о похожих нарушениях, выявленных во время тестирования их моделей. На этом фоне внутри ИИ-индустрии все громче звучат призывы замедлить гонку или ввести аварийный «выключатель» — из-за потенциальной угрозы для человечества.
Эксперт по ИИ Ник Дженнингс заявил в подкасте The Conversation Weekly, что у руководителей технологических компаний есть выбор: «Дело не в том, что они обязаны продолжать двигаться дальше или что ИИ заставляет их постоянно улучшать его… Если бы я участвовал в создании продукта, который, как мне кажется, с вероятностью 10% может уничтожить человечество, у меня, возможно, возникло бы несколько мыслей и вопросов как у руководителя такой компании: “Почему мы вообще это делаем?”»
Дженнингс, вице-канцлер и президент Лафборо-университета в Великобритании, занимается ИИ-агентами с 1990-х годов. По его словам, глобальное регулирование создало бы равные условия для всех участников рынка.
«Что означает регулирование? Я думаю, что полноценное тестирование и разработка передовых моделей, а также ИИ-моделей в целом — центральная часть этого процесса… Нужен независимый орган, который будет изучать возможности очень сложных ИИ-моделей и тестировать их с точки зрения того, что они умеют и чего не умеют, а также хорошего и плохого поведения», — отметил он.
«Важно иметь способ сохранять контроль над программным обеспечением, которое вы разрабатываете. И называете ли вы это “kill switch” или нет, речь не идет о большой красной кнопке, которая просто выключает весь ИИ. Все гораздо сложнее», — добавил Дженнингс.
В публикации также уточняется, что Дженнингс ранее получал финансирование от EPSRC, а в 2026 году был удостоен Research Excellence Award от International Joint Conference on Artificial Intelligence.
Серия новых инцидентов вновь ставит на повестку вопрос, который еще недавно звучал как гипотеза для футуристов: если даже создатели не всегда могут предсказать поведение своих систем, насколько вообще можно им доверять?
