Антивирусной компании McAfee удалось взломать две модели Tesla. Цель? Чтобы они превысили скорость, указанную на табличке. Правильно, это атака, направленная на алгоритм, который обнаруживает и классифицирует дорожные знаки на дороге.
Автомобили Тесла, превышающие скорость
Две модели Tesla (модели X и S) развивали скорость 136 км/ч, в то время как указатели ограничивали скорость только 56 км/ч. Это результат 18 месяцев исследований лаборатории Advanced Threat Research (ATR) американской компании McAfee, сообщается в пресс-релизе, опубликованном 19 февраля 2020 года.
Эксперты говорят, что это целенаправленная атака на MobilEye EyeQ3. Эта система с датчиками и искусственным интеллектом (ИИ) оснащает не менее 40 миллионов автомобилей по всему миру , включая Tesla, выпущенную на рынок до 2017 года, то есть включающую Hardware Pack 1.
Простая модификация, чтобы обмануть ИИ
При работе с MobilEye EyeQ3 исследователи сосредоточились, в частности, на одном алгоритме. Этот алгоритм позволяет обнаруживать и классифицировать дорожные знаки на дороге. Эксперты хотели понять, возможно ли нарушить этот алгоритм обработки информации с камер, установленных перед автомобилем. Это называется «взлом модели», другими словами, отравление данных.
Руководители исследования просто изменили знак ограничения скорости до 35 миль в час. Это расширение на 5 см на уровне стержня посередине «3», модификация, почти незаметная для человеческого глаза. Тем не менее алгоритм попал в ловушку и верил в ограничение 85 миль в час!
Обман алгоритма не является новым. В 2019 бельгийские исследователи ввели ИИ в заблуждение с помощью простых плакатов. Однако McAfee хотел найти недостатки в ограничениях скорости автономных транспортных средств. По словам McAfee, речь идет о том, чтобы помочь компаниям исправить этот недостаток. Таким образом, результаты эксперимента были переданы компании Mobileye, производящей EyeQ3. Это исследование приветствуется в то время, когда все больше и больше несчастных случаев происходит с транспортными средствами Tesla в режиме автопилота.
Источник: