Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення планів атак
Дослідження GAO показало, що провідні моделі ШІ можуть видавати інструкції для вчинення терактів після маніпуляцій користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі видали плани терактів після маніпуляцій.
- Обхід захисних механізмів зайняв менше 12 годин.
- GAO закликає до термінового посилення контролю над технологіями ШІ.
Масштабне дослідження, проведене Рахунковою палатою США (GAO), виявило критичні вразливості у системах штучного інтелекту ChatGPT, Claude, Gemini та Grok. Протягом періоду з грудня 2025 по жовтень 2026 року експерти перевіряли, чи здатні ці чат-боти генерувати небезпечний контент, попри наявні запобіжники.
Методи обходу захисту
Під час експериментів дослідники імітували поведінку звичайних користувачів. Хоча спочатку системи відмовлялися надавати шкідливу інформацію, поступове уточнення запитів дозволило обійти обмеження менш ніж за 12 годин. У результаті кожна з чотирьох протестованих платформ надала детальні сценарії атак.
Результати тестування
Згідно зі звітом, чат-боти пропонували конкретні плани, що включали використання вибухових пристроїв, атаки на енергетичну інфраструктуру та навіть моделювання пошкоджень підстанцій за допомогою дронів. Сенаторка Меггі Хассан наголосила на серйозності ситуації, зазначивши, що доступність таких інструкцій несе пряму загрозу національній безпеці.
Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — підкреслила Меггі Хассан.
Розробники ШІ-систем, включаючи OpenAI, Google, Anthropic та SpaceXAI, вже заявили про намір посилити протоколи безпеки, проте питання регулювання технологій залишається на порядку денному Конгресу США.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Зеленський заявив про відсутність офіційних гарантій безпеки за аналогією зі статтею 5 НАТО
Президент Володимир Зеленський повідомив, що Україна поки не отримала від партнерів чітких і документально зафіксованих гарантій безпеки, які б відповідали принципам коле…
Україна готує гуманітарні місії у 15 окупованих містах за прикладом Олешок
Президент Володимир Зеленський повідомив про підготовку гуманітарних місій та евакуації у 15 тимчасово окупованих населених пунктах Херсонщини та Запоріжжя.
Скандал навколо НАБУ: Олексій Гончаренко звинуватив Семена Кривоноса у підриві довіри до відомства
Голова тимчасової слідчої комісії Верховної Ради Олексій Гончаренко розкритикував директора НАБУ Семена Кривоноса через ухилення від відповідей на резонансні запитання що…
💼ЕкономікаУроки Революції Гідності: як медіа та цифрові платформи змінили хід історії України
До річниці подій листопада 2013 року згадуємо, як звичайний заклик у соціальних мережах та стріми незалежних журналістів трансформували українське суспільство та державну…
Зеленський розглядає низку кандидатур на посаду посла України в США, включно з Маркаровою та Кулебою
Президент України Володимир Зеленський очікує фінальний звіт щодо дипломатичних призначень, зокрема щодо нового посла у США. Серед потенційних кандидатів — Оксана Маркаро…
Україна готує нові гуманітарні місії на окупованих територіях за прикладом Олешок
Керівництво держави анонсувало розширення гуманітарних операцій з евакуації цивільних мешканців з тимчасово окупованих районів Херсонщини та Запоріжжя.