Автомобили-беспилотники “хакнули” с помощью наклеек

google car

Разработчики беспилотных автомобилей и регуляторы их использования обеспокоены, в основном, угрозами безопасности, которые связаны с возможностями удаленного взлома через сеть интернет или локальные подключения к компьютерной системе устройства. Но, как оказалось, существует гораздо более простой способ создать проблемы автономным машинам.

Группа исследователей из Вашингтонского университета обнаружила, что систему машинного зрения, которая применяется в автомобилях с автопилотом для распознавания дорожных знаков, очень просто одурачить: достаточно разместить на знаке несколько небольших наклеек определенным образом.

google car

Если злоумышленники знают, как автомобиль идентифицирует те или иные знаки, они могут генерировать изображения, которые, не внося в знак значительных изменений, “превратят” его в “глазах” автопилота в абсолютно другой.

Например, разместив небольшие наклейки на знаке “STOP” (см. фото ниже), группа исследователей добилась восприятия его системой автономных авто как знака ограничения скорости. В реальной жизни это может спровоцировать серьезную аварию. Для борьбы с уязвимостью исследователи предлагают добавить в систему управления автомобилем алгоритм, который будет дополнительно анализировать контекст, в котором “увидел” знак. Это поможет убедиться, что знак не пытается ввести систему в заблуждение — автопилот должен “удивиться”, “увидев” STOP на высокоскоростном шоссе или же ограничение скорости движения в 100 км/ч на городских улицах.

hacked STOP

Комментировать

Оповещать
avatar
wpDiscuz