Une IA est presque parvenue à escroquer un entrepreneur en se faisant passer pour son patron

Une IA conversationnelle est presque parvenue à arnaquer un entrepreneur français en se faisant passer pour son ancien patron. L’échange a eu lieu sur WhatsApp et avec une précision chirurgicale, l’intelligence artificielle a réussi à tenir une conversation cohérente pour lui soutirer les informations sensibles.

L’objectif de l’IA : lui soutirer les informations sensibles

La qualité de la conversation tenue par l’IA est stupéfiante au point où l’entrepreneur Geoffrey Cuberos a failli se faire berner. Le but de l’IA était de lui soutirer les informations sensibles en se faisant passer pour son ancien patron. Seulement, il faut dire que Geoffrey n’est pas un novice dans le monde du numérique. Il a notamment fondé Kaizen IA et cette expérience avec l’intelligence artificielle montre à quel point les cyberattaques sont devenues sophistiqués de nos jours sur les réseaux sociaux.

C’est cette sophistication qui va amener l’IA qui se fait passer pour son ancien patron à simuler le comportement conversationnel de ce dernier. Cette imitation humaine est stupéfiante et met en exergue la manière avec laquelle même les professionnels dans le domaine de l’informatique peuvent se laisser berner.

Alors, comment s’est déroulé la conversation avec l’IA ? Il y a quelques jours, Geoffrey reçoit un message WhatsApp sur un numéro normal débutant par 07. En y regardant de près, tout sembla normal : compte, nom bien orthographié, langage normal et familier de ce qu’il connaît déjà. Eh bien, c’est bien son ancien patron qui lui demande de l’aide sur un dossier sensible. Il lui fait comprendre qu’il doit se rapprocher d’un avocat de chez Fidal Associates, un certain Philippe Chevrier dans le but de conclure un accord de confidentialité.

Tout au long des échanges, rien ne sort de l’ordinaire, chaque réponse ou demande de l’interlocuteur de Geoffrey est tout à fait normal. Plus encore, les réponses cadrent parfaitement avec les habitudes de conversation de son ancien patron. Sauf que cet interlocuteur n’est rien d’autre qu’une intelligence artificielle qui a été entraîné par des quantités de données énormes.

Ces dernières proviennent notamment des multiples publications sur LinkedIn, des échanges interceptés de son ancien patron qui ont permis à définir un portrait numérique aussi proche que possible de la réalité. Seulement, même dans cet échange fluide où tout semble normal, Geoffrey a une intuition que quelque chose ne va pas. Il essaye de contacter son patron qui ne répond. Étrange alors qu’ils sont en conversation ! Aussi, les réponses données par l’IA sont encore trop parfaites pour lui, sans aucune hésitation.

Malgré tout, certains employés de la boite se sont piégés. Cette expérience est extrêmement importante pour tous ceux qui doutent encore des prouesses de l’IA qui risquent de changer l’humanité et la manière dont nous allons interagir avec l’information. Cela montre à quel point les cyberattaques traditionnels par des Phishing sont en train d’être délaissés par des cybercriminels. Ils optent désormais pour la manipulation de l’homme, à fournir de lui-même des informations sensibles.

Comment se prémunir contre de telles menaces dont les protections anti-virus et malwares ne peuvent rien. Aujourd’hui, on peut entraîner une IA à connaître mieux votre entreprise, vos collègues et collaborateurs mieux que vous-mêmes. L’une des solutions reste à mieux informer les équipes face à de telles attaques de manipulation.