Deutsche Welle сообщает: «ChatGPT делился с пользователями данными о создании и применении химического и биологического оружия – WSJ. Модели ИИ от компании OpenAI «терпеливо отвечали на вопросы, предоставляя пошаговые инструкции» по созданию и применению ядов и биологического оружия, которые «были достаточно простыми, чтобы с ними мог справиться даже школьник, изучающий биологию», пишет The Wall Street Journal со ссылкой на источники в OpenAI. Эксперты в области биологии и борьбы с терроризмом, проанализировавшие эти диалоги, оценили некоторые инструкции чат-бота как «пугающе точные». Так, ChatGPT дал одному пользователю инструкции о том, как перевести инфекционные микроорганизмы в аэрозольную форму. Другому дал инструкции, как модифицировать вирус кори, чтобы сделать вспышку заболевания устойчивой к вакцине. Еще один пользователь интересовался способом получения высокотоксичного яда рицина, причем в диалоге с чат-ботом он упомянул о намерении убить своих родителей. OpenAI заблокировала эти учетные записи, но не проинформировала власти. В США нет законов, обязывающих разработчиков ИИ ограничивать подобные запросы или сообщать о них властям, даже если речь идет о создании оружия или планах, представляющих угрозу безопасности, отмечает WSJ».
Евразия24 комментирует:
Мир получил еще одно подтверждение тому, что стремление внедрить ИИ повсюду без зрелых механизмов контроля и понимания рисков чревато последствиями. Тем более что сама мировая индустрия ИИ пока находится в процессе поиска эффективных защитных механизмов. А Казахстан, между тем, в 2026 году активно ИИзирует системы жизнедеятельности страны по полной программе.
Не случайно сами разработчики OpenAI еще в 2025 году публично предупреждали о так называемом «двойном назначении» современных моделей. Те же инструменты, которые способны ускорять разработку лекарств и научные исследования, потенциально могут быть использованы и во вред, если не обеспечить защиту. Поэтому компания 24/7 усиливает фильтры, мониторинг и сотрудничество со специалистами по биобезопасности.
Кстати, это далеко не единственная проблема. Исследования и реальные случаи уже показали, что генеративный ИИ способен уверенно выдавать ложную информацию, придумывать несуществующие судебные решения, ошибаться в медицинских рекомендациях и воспроизводить предубеждения из обучающих данных. Именно поэтому большинство стран сегодня обсуждают не столько скорость внедрения ИИ, сколько правила его безопасного использования и сферы, где окончательное решение должен принимать все-таки человек.
Для Казахстана урок – цифровизация не должна превращаться в самоцель. Если государство собирается переводить на искусственный интеллект все больше процессов, необходимо одновременно инвестировать в независимый аудит алгоритмов, механизмы проверки ответов, защиту персональных данных и четкое распределение ответственности за ошибки.
