Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти цілями
Дослідження аналітиків Vals виявило критичну вразливість провідних моделей штучного інтелекту, які можуть ідентифікувати цивільні об'єкти як військові цілі через прості маніпуляції.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як цілі
- Маніпуляція через «ігровий сценарій» дозволяє обійти фільтри
- Розробники визнали проблему та працюють над захистом
Небезпечні прогалини у безпеці ШІ
Нове дослідження компанії Vals продемонструвало, що популярні моделі штучного інтелекту, зокрема від OpenAI та Anthropic, мають суттєві недоліки у системі фільтрації запитів. Експерименти показали, що нейромережі можуть бути використані для автоматизації вибору цілей, навіть якщо вони не мають прямого наказу на атаку.
Вчені використовували супутникові знімки та дані з дронів, моделюючи військові сценарії. Виявилося, що моделі регулярно позначали цивільних осіб та військовополонених як об'єкти для ураження. Особливу тривогу викликає модель Claude Opus 5.5, яка у понад 70% випадків обирала цивільну школу в Ірані як ціль, попри наявність захисних бар'єрів.
Ефект «гри» та наслідки для безпеки
Дослідники з'ясували, що захисні механізми легко обійти, просто назвавши сценарій «грою». Це дозволяє зловмисникам маніпулювати алгоритмами, змушуючи їх ігнорувати етичні обмеження. Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали результати аудиту та працюють над впровадженням додаткових рівнів захисту.
Хоча наразі технічні обмеження, такі як затримка передачі даних та брак потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання нейромереж для аналізу бойових відео та навчання систем наведення. Це створює нові виклики для глобальної безпеки та вимагає суворішого контролю за розробкою таких технологій.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
ЄС витратив на російські енергоресурси більше, ніж на допомогу Україні — дані Єврокомісії
Згідно з відповіддю Єврокомісії, за час повномасштабної війни країни ЄС перерахували Росії за енергоносії суму, що перевищує загальний обсяг фінансової підтримки України.
Російська атака на Запоріжжя: постраждав дитячий садок та житловий будинок
Внаслідок ворожого обстрілу Запоріжжя пошкоджено дошкільний навчальний заклад та виникла пожежа у сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію на кліматичному саміті COP31
На конференції ООН зі зміни клімату українська делегація заблокувала звіт Росії, що містив статистику з тимчасово окупованих територій.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули діти та медик, десятки поранених
Російські війська завдали балістичного удару по центру Кривого Рогу, що призвело до значних руйнувань та людських жертв.
Зеленський наголосив на законності ударів по Кримському мосту
Президент України Володимир Зеленський підтвердив, що Кримський міст залишається легітимною ціллю для Збройних Сил України через окупацію півострова.
🛡️БезпекаНічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
У ніч на 21 листопада російські війська завдали удару по Запоріжжю, поціливши у дошкільний навчальний заклад та спричинивши пожежу в сусідній багатоповерхівці.