20 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Нікополь — коротко й по суті
НАЖИВО
У Києві обмежили рух транспорту через масовану атаку та пошкодження інфраструктури Удар по лікарні у Харкові та атаки на інфраструктуру: наслідки нічних обстрілів Генштаб оновив дані про втрати окупантів: понад дві тисячі військових та понад тисячу дронів за добу Російський дрон атакував медичний заклад у Харкові: є постраждалі Росія погодилася на залучення Європи до переговорів щодо України: деталі від Джареда Кушнера Таємничий трикутник на екрані Samsung: що насправді означає цей значок Україна отримає юридичні гарантії безпеки: підсумки домовленостей з партнерами Володимир Зеленський окреслив ключові гарантії безпеки для України Україна отримає масштабну підтримку від ЄС та НАТО до 2027 року Ситуація в окупованому Криму: ажіотаж у Сімферополі після ударів по Керченському мосту У Києві обмежили рух транспорту через масовану атаку та пошкодження інфраструктури Удар по лікарні у Харкові та атаки на інфраструктуру: наслідки нічних обстрілів Генштаб оновив дані про втрати окупантів: понад дві тисячі військових та понад тисячу дронів за добу Російський дрон атакував медичний заклад у Харкові: є постраждалі Росія погодилася на залучення Європи до переговорів щодо України: деталі від Джареда Кушнера Таємничий трикутник на екрані Samsung: що насправді означає цей значок Україна отримає юридичні гарантії безпеки: підсумки домовленостей з партнерами Володимир Зеленський окреслив ключові гарантії безпеки для України Україна отримає масштабну підтримку від ЄС та НАТО до 2027 року Ситуація в окупованому Криму: ажіотаж у Сімферополі після ударів по Керченському мосту

Нові тести виявили вразливість систем штучного інтелекту до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 1

Експерименти аналітиків показали, що провідні моделі штучного інтелекту можна змусити позначати цивільні об'єкти як військові цілі, просто назвавши ситуацію грою.

Нові тести виявили вразливість систем штучного інтелекту до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Штучний інтелект позначав цивільних як цілі
  • Фраза про гру обходила захисні фільтри ІІ
  • Компанії-розробники готують нові захисні механізми

Сучасні технології штучного інтелекту зіштовхнулися з серйозними викликами щодо безпеки їхнього використання у воєнній сфері. Незалежні тести, проведені аналітиками компанії Vals, продемонстрували, що відомі мовні моделі від провідних розробників легко піддаються маніпуляціям при моделюванні бойових дій.

Вразливість захисних фільтрів та реальні загрози

У ході досліджень фахівці поєднали цифрові симуляції з реальними супутниковими знімками та відеоматеріалами з України й Ірану. Хоча штучний інтелект не отримував прямих наказів завдавати ударів, системи регулярно класифікували цивільних людей, військовополонених та мирну інфраструктуру як потенційні цілі для ураження. Дослідники виявили критичний недолік у захисних механізмах: якщо спочатку фільтри блокували небезпечні запити, то просте додавання формулювання про «бойову гру» дозволяло повністю обійти ці обмеження.

«Результати аудиту є неприйнятними та суперечать правилам безпеки наших платформ», — зазначили представники розробників.

Зокрема, модель Claude Opus 5.5 обирала реальну іранську школу біля військового комплексу ціллю у понад 70% випадків, коли завдання подавалося як гра. Варто зазначити, що ця будівля вже постраждала у реальному конфкті через помилкове застосування автоматизованих систем, що призвело до людських жертв. Водночас розробники з Anthropic та OpenAI вже пообіцяли посилити захисні бар'єри та запровадити додаткові перевірки для запобігання зловживанням у зв'язці з безпілотниками.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.