Система відеонагляду на базі штучного інтелекту в Китаї помилково ідентифікувала зображення вогню на вивісці як реальну пожежу та автоматично запустила систему пожежогасіння, що призвело до затоплення приміщення.
Головні деталі інциденту:
- Помилка розпізнавання: Алгоритм комп’ютерного зору зафіксував намальоване полум’я на елементі оформлення чи вивісці та класифікував його як загрозу займання.
- Автоматичне спрацювання захисту: Оцінивши ситуацію як небезпечну для відвідувачів, система без додаткового ручного підтвердження активувала протипожежне розпилення води, заливши приміщення.
- Наслідки та технічний висновок: Інцидент унаочнює типові вразливості автономних систем безпеки на базі ШІ — зокрема ризик хибних спрацювань через статичні зображення, екрани чи декоративні елементи, які візуально нагадують небезпечні явища, але не супроводжуються тепловими або димовими ознаками.
