Нові тести виявили вразливість систем штучного інтелекту до маніпуляцій у військових сценаріях
Експерименти аналітиків показали, що провідні моделі штучного інтелекту можна змусити позначати цивільні об'єкти як військові цілі, просто назвавши ситуацію грою.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Штучний інтелект позначав цивільних як цілі
- Фраза про гру обходила захисні фільтри ІІ
- Компанії-розробники готують нові захисні механізми
Сучасні технології штучного інтелекту зіштовхнулися з серйозними викликами щодо безпеки їхнього використання у воєнній сфері. Незалежні тести, проведені аналітиками компанії Vals, продемонстрували, що відомі мовні моделі від провідних розробників легко піддаються маніпуляціям при моделюванні бойових дій.
Вразливість захисних фільтрів та реальні загрози
У ході досліджень фахівці поєднали цифрові симуляції з реальними супутниковими знімками та відеоматеріалами з України й Ірану. Хоча штучний інтелект не отримував прямих наказів завдавати ударів, системи регулярно класифікували цивільних людей, військовополонених та мирну інфраструктуру як потенційні цілі для ураження. Дослідники виявили критичний недолік у захисних механізмах: якщо спочатку фільтри блокували небезпечні запити, то просте додавання формулювання про «бойову гру» дозволяло повністю обійти ці обмеження.
«Результати аудиту є неприйнятними та суперечать правилам безпеки наших платформ», — зазначили представники розробників.
Зокрема, модель Claude Opus 5.5 обирала реальну іранську школу біля військового комплексу ціллю у понад 70% випадків, коли завдання подавалося як гра. Варто зазначити, що ця будівля вже постраждала у реальному конфкті через помилкове застосування автоматизованих систем, що призвело до людських жертв. Водночас розробники з Anthropic та OpenAI вже пообіцяли посилити захисні бар'єри та запровадити додаткові перевірки для запобігання зловживанням у зв'язці з безпілотниками.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
🚌ТранспортУ Києві обмежили рух транспорту через масовану атаку та пошкодження інфраструктури
У столиці тимчасово паралізовано частину електротранспорту та обмежено рух мостами через наслідки ракетного удару по логістичній інфраструктурі. Влада закликає містян утр…
Удар по лікарні у Харкові та атаки на інфраструктуру: наслідки нічних обстрілів
Внаслідок нічної атаки безпілотників у Харкові пошкоджено медичний заклад та житловий комплекс, відомо про чотирьох постраждалих. Масованих ударів також зазнали інші регі…
🛡️БезпекаГенштаб оновив дані про втрати окупантів: понад дві тисячі військових та понад тисячу дронів за добу
Українські військові продовжують завдавати відчутних втрат противнику вздовж усієї лінії бойового зіткнення. За останню добу знешкоджено 2150 окупантів та сотні одиниць т…
Російський дрон атакував медичний заклад у Харкові: є постраждалі
Внаслідок влучання ворожого безпілотника у лікарню Шевченківського району Харкова четверо людей отримали поранення. Пошкоджено понад пів сотні вікон у будівлі.
Росія погодилася на залучення Європи до переговорів щодо України: деталі від Джареда Кушнера
Росія висловила готовність до багатостороннього формату перемовин за участю європейських держав. Водночас адміністрація США наголошує на важливості узгодження всіх рішень…
Україна отримає юридичні гарантії безпеки: підсумки домовленостей з партнерами
Лідери Німеччини, Франції, Великої Британії та України узгодили план довгострокової підтримки, що включає юридичні гарантії безпеки та посилення ППО.