Ben Nassi

Après des recherches approfondies, l’industrie automobile est à l’aube d’une nouvelle ère technologique avec l’émergence de voitures semi-autonomes et entièrement autonomes, qui offrent des alternatives à la conduite manuelle traditionnelle. Toutefois, à l’approche de ce changement transformationnel, des questions cruciales se posent concernant les risques associés à l’IA qui alimente ces véhicules autonomes. Comment assurer la sécurité des systèmes d’intelligence artificielle qui contrôlent ces voitures ? Est-il possible qu’une IA apparemment plus sûre conduise paradoxalement à des scénarios de conduite plus dangereux ? Dans ses conférences, Ben Nassi se penche sur les défis en matière de sûreté et de sécurité associés aux véhicules autonomes. Ben met en lumière la manière dont des objets apparemment innocents, tels que les panneaux d’affichage numériques et les véhicules d’urgence, que l’on rencontre fréquemment en conduisant, peuvent en réalité compromettre la sécurité des occupants de la voiture autonome et des autres usagers de la route. Il présente des démonstrations vidéo illustrant ces risques et concernant spécifiquement les véhicules Tesla. En outre, Ben analyse les mécanismes de sécurité existants et insiste sur la nécessité de développer de nouvelles approches spécifiques pour sécuriser l’IA qui pilote ces véhicules autonomes, afin de résister à des menaces potentielles et de garantir la sécurité des passagers. Enfin, Ben expose une idée contre-intuitive, à savoir que le renforcement de la sécurité de l’IA pourrait, d’une manière ou d’une autre, conduire à des conditions de conduite plus dangereuses. Grâce à une réflexion argumentée, Ben explique comment une plus grande sécurité de l’IA peut, en fait, contribuer à une conduite moins sûre et plus dangereuse. Découvrez un échange éclairant sur les défis en matière de sûreté et de sécurité liés à la révolution des véhicules autonomes.

Nous sommes officiellement entrés dans l’ère de l’IA, où des entreprises de premier plan comme OpenAI, Google, Tesla et d’autres ont intégré de manière transparente des modèles d’IA dans des systèmes physiques (par exemple, les véhicules autonomes) et en ligne (par exemple, les chatbots). Ces systèmes alimentés par l’IA interagissent en permanence et de manière intensive avec les utilisateurs finaux, offrant des opportunités passionnantes et des fonctionnalités de pointe. Cependant, cette intégration révolutionnaire de l’IA introduit également des risques sans précédent qui requièrent notre attention. Que savons-nous vraiment de ces nouveaux risques que l’IA fait peser sur les utilisateurs finaux ? Dans cet exposé, Ben Nassi se penche sur les défis posés par l’intégration de l’IA dans les systèmes physiques et digitaux, qui interagissent fortement avec les utilisateurs finaux. Il analyse les nouveaux modèles de menace qui émergent de l’interface entre l’IA et les utilisateurs finaux. Illustré par des vidéos, il démontre comment les hackers peuvent exploiter ces systèmes : (1) en implantant des bannières sur des sites web pour cibler les utilisateurs, et (2) en compromettant les publicités affichées sur les panneaux d’affichage numériques pour attaquer les conducteurs et les passagers de véhicules autonomes. Au cours de ses conférences, Ben examine en détail les mécanismes de sécurité actuels utilisés pour protéger les utilisateurs finaux contre les menaces potentielles. Malgré leur existence, il souligne le besoin impératif de mécanismes de sécurité nouveaux et dédiés, spécifiquement conçus pour protéger les utilisateurs finaux contre les systèmes basés sur l’IA tels que les chatbots, les véhicules autonomes et autres. À la fin de ses conférences, Ben passe en revue les précautions que les utilisateurs finaux doivent prendre lorsqu’ils interagissent avec des systèmes basés sur l’IA. En adoptant des mesures proactives, nous pouvons garantir l’intégration sûre de l’IA dans les systèmes qui ont une interface avec les utilisateurs finaux.