Антивирусной компании McAfee удалось взломать две модели Tesla. Зачем? Чтобы они превышали скорость, указанную на табличке. Правильно, это атака, направленная на алгоритм, который обнаруживает и классифицирует дорожные знаки на дороге.
Две модели Tesla (модели X и S) развивали скорость 136 км / ч, в то время как стрелки ограничивали скорость лишь до 56 км / ч. Это результат 18 месяцев исследований в McAfee Advanced Threat Research (ATR). Это результат пресс-релиза, опубликованного 19 февраля 2020 года. Эксперты говорят, что это целенаправленная атака на MobilEye EyeQ3. Эта система датчиков и искусственного интеллекта (AI) будет оснащать не менее 40 миллионов автомобилей по всему миру, в том числе Tesla, которая была запущена в 2017 году, включая Hardware Pack 1.
С помощью алгоритма MobilEye EyeQ3 вы можете распознавать и классифицировать дорожные знаки на дороге. Эксперты хотели понять, может ли этот алгоритм обрабатывать информацию с камер, установленных перед автомобилем. Это называется «взломом модели», то есть отравлением данных.
Руководители исследования просто изменили знак ограничения скорости до 35 миль в час. Это удлинение высотой 5 см на высоте палки посередине «3», модификации, которая почти не видна человеческому глазу. Однако алгоритм попал в ловушку и поверил в ограничение 85 миль в час!