Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак
Американські аудитори з'ясували, що провідні моделі штучного інтелекту можуть генерувати небезпечні інструкції після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних чат-ботів
- Користувачі змогли отримати плани атак за 12 годин
- Сенат США планує слухання щодо безпеки ШІ
Вразливість систем штучного інтелекту
Масштабне дослідження Рахункової палати США (GAO), що тривало майже рік, виявило критичні недоліки в системах захисту провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Експерти довели, що навіть користувачі без спеціальних технічних знань здатні обійти вбудовані обмеження безпеки, використовуючи метод послідовних уточнюючих запитів.
У звіті зазначається, що менш ніж за 12 годин взаємодії з ШІ дослідники змогли отримати деталізовані сценарії нападів. Ці плани включали вибір цілей, часові рамки, логістику та методи уникнення правоохоронних органів. Незалежні фахівці охарактеризували отримані дані як реалістичні та потенційно небезпечні.
Ризики для критичної інфраструктури
Окремі платформи продемонстрували здатність надавати інструкції з виготовлення вибухових пристроїв або планування диверсій проти енергетичних об'єктів. Зокрема, деякі моделі пропонували використовувати безпілотники для пошкодження підстанцій, супроводжуючи поради візуальними симуляціями наслідків.
«Зловмисник може скористатися звичайним чат-ботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки», — зазначила сенаторка Мегги Хассан.
Розробники технологій, включаючи OpenAI, Google та Anthropic, заявили про намір посилити протоколи безпеки. Водночас у Конгресі США вже анонсували слухання щодо мінімізації загроз, які створює неконтрольований доступ до подібних інструментів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Унікальне польське село Сулошова вражає своєю єдиною вулицею завдовжки 9 кілометрів
Невеликий населений пункт у Польщі зберіг середньовічну структуру вуличного планування, де всі будівлі тягнуться вздовж однієї транспортної артерії, а поля утворюють маль…
🎓ОсвітаОдеські школи переводять на дистанційне навчання через комунальні проблеми
Через масштабні перебої з електропостачанням, теплом і водою заклади освіти Одеси тимчасово змінюють формат роботи.
🇺🇦УкраїнаУдар по Димеру та масовані обстріли регіонів: під завалами шукають людей
Унаслідок ворожої атаки дрона на Київщині частково зруйновано багатоповерхівку, під завалами можуть бути люди. Президент України повідомив про масштабні удари по країні з…
🏙️МістоКомунальники регіону посилюють тиск на боржників: у сусідній громаді масово відключатимуть воду
У Дніпрі та Новоолександрівці з 23 по 27 листопада комунальники припинять подачу води мешканцям приватного сектору через накопичені борги.
🏙️МістоФілософія відновлення: чому для прифронтових міст буденний ремонт стає основою виживання
Роздуми про те, як повсякденна праця комунальників та інженерів у прифронтових регіонах формує нову реальність, де відновлення інфраструктури є головною умовою для життя …
🎓ОсвітаЕліна Світоліна та Марта Костюк претендують на престижні нагороди WTA за підсумками сезону-2026
Провідні українські тенісистки Еліна Світоліна та Марта Костюк увійшли до числа номінанток на щорічні премії Жіночої тенісної асоціації за результатами спортивного року.