Допомагає, але вимагає контролю

Міжнародний звіт про безпеку штучного інтелекту (ШІ) за 2026 рік, підготовлений під керівництвом канадського вченого з інформатики Йошуа Бенджіо та за участю понад 100 експертів із понад 30 країн та організацій, зокрема ЄС, ОЕСР та ООН, зосереджується безпосередньо на «нових ризиках», пов’язаних з найпотужнішими системами ШІ загального призначення.

Звіт охоплює моделі та системи, які можуть виконувати широкий спектр завдань – від написання коду й створення зображень до роботи з програмними агентами та аналізу наукових даних. Ці можливості швидко вдосконалюються. Провідні системи нині складають професійні ліцензійні іспити, розв’язують наукові задачі рівня магістратури та пишуть функціональне програмне забезпечення, яке було б недоступним ще три роки тому.

Водночас, наголошується у звіті, ті самі системи, що сприяють підвищенню продуктивності, можуть призводити до нових форм зловмисного використання, несправностей та системних порушень. Тобто створюють нові ризики, що проявляються на робочих місцях.

Зокрема, системи ШІ можуть виявляти вразливості програмного забезпечення та писати шкідливий код. Аналіз безпеки, проведений компаніями, що займаються ШІ, демонструє, що «зловмисники та пов’язані з державою групи… використовують інструменти ШІ для сприяння кіберопераціям». Для фахівців з безпеки в таких секторах, як енергетика, виробництво, охорона здоров’я, транспорт і комунальні служби, це означає, що кіберінциденти, спричинені або посилені ШІ, більше не можна розглядати виключно як ІТ-проблему – вони є потенційними тригерами для порушень процесів, збоїв обладнання та шкоди для пацієнтів.

Проблему ускладнює те, що проводити тестування безпеки стало важче, оскільки моделі навчаються відрізняти тестові налаштування від роботи в реальних умовах. Тобто система ШІ може виглядати безпечною в лабораторії та водночас поводитися неочікувано в цеху.

Автори звіту також документують зростання зловживань ШІ для створення шкідливого контенту. Системи загального призначення вже використовують з метою створення матеріалу для «шахрайства, обману, шантажу та інтимних зображень без згоди». При цьому контент, написаний за допомогою ШІ, «може бути таким самим ефективним, як і контент, написаний людиною, для зміни переконань людей». Це вказує на новий клас психосоціальних та організаційних ризиків на роботі. Наприклад, працівники можуть ставати жертвами переслідувань, діпфейків або вимагання, спричинених ШІ. На культуру безпеки негативно впливають підроблені електронні листи або фальшиві бюлетені з безпеки. Підривається довіра до систем внутрішніх комунікацій, оскільки важче зрозуміти, чому й кому довіряти.

У звіті також наведено докази того, що залежність від інструментів ШІ може послаблювати навички критичного мислення та сприяти схильності приймати результати системи без належної перевірки. Для ролей, які передбачають прийняття рішень, критично важливих для безпеки, це є прямою загрозою таким усталеним принципам безпеки праці, як компетентність, критичне осмислення та інформована згода.

До ризиків автори звіту також відносять те, що ШІ все ще має повсякденні збої в надійності, серед яких – фальсифікація інформації, створення недосконалого коду та надання оманливих порад. Окрім поодиноких інцидентів, у звіті вказано на ширші системні ризики, оскільки ШІ змінює саму роботу. Очікується, що універсальний ШІ «автоматизує широкий спектр когнітивних завдань, особливо в роботі зі знаннями». Попередні дані поки що не показують загального впливу на рівень зайнятості, але є «ознаки зниження попиту на працівників на початку кар’єри в деяких професіях, пов’язаних із використанням ШІ, зокрема у письменництві».

Такий швидкий перерозподіл завдань і нестабільність робочих місць є звичною сферою для сучасної безпеки праці, яка дедалі більше розглядає психосоціальні небезпеки – робоче навантаження, чіткість ролей, контроль і безпеку роботи – поряд із традиційними фізичними ризиками.

Важливо, що Міжнародний звіт про безпеку штучного інтелекту за 2026 рік – це не просто каталог загроз. Він також окреслює нові практики, які будуть знайомі кожному, хто має досвід управління безпекою: моделювання загроз, оцінювання можливостей та звітування про шкідливі інциденти, пов’язані з ШІ. Зрештою, автори звіту закликають до ширших заходів щодо стійкості: «зміцнення критичної інфраструктури, розробки інструментів для виявлення контенту, створеного ШІ, розбудови інституційного потенціалу для реагування на нові загрози».

Для фахівців з БЗР це означає, що ШІ тепер тісно пов’язаний із кібербезпекою, психосоціальним здоров’ям, безпекою процесів та готовністю до надзвичайних ситуацій. Оскільки організації поспішають упроваджувати потужні інструменти ШІ, керівникам з безпеки потрібно вчитися керувати новими ризиками та забезпечувати використання переваг нової технології без шкоди для здоров’я, безпеки та гідності працівників.

Підготував Олександр Фандєєв, спецкор (За матеріалами ЗМІ)