Tony Fadell Critique Sam Altman lors du TechCrunch Disrupt
C'est une petite bombe qu'a lâchée Tony Fadell, le créateur de l'iPod et fondateur de Nest Labs, lors de sa récente interview au TechCrunch Disrupt 2024 à San Francisco. Connu pour son franc-parler, l'entrepreneur et investisseur n'a pas mâché ses mots au moment d'évoquer les préoccupations liées au développement effréné des grands modèles de langage (LLM) et leur tendance à "halluciner".
"Je ne suis pas Sam Altman, OK ?"
Visiblement agacé par l'emballement autour des IA génératives type ChatGPT, Tony Fadell a tenu à rappeler son expérience de longue date avec l'intelligence artificielle, soulignant au passage les limites de ces technologies :
Cela fait 15 ans que je travaille sur l'IA, les gars. Je ne fais pas que balancer des conneries - je ne suis pas Sam Altman, OK ?
Tony Fadell, lors du TechCrunch Disrupt 2024
Une petite phrase assassine qui n'a pas manqué de faire réagir l'audience, visiblement surprise par cette attaque frontale envers le CEO d'OpenAI. Tony Fadell a ensuite développé sa vision d'une IA plus transparente et spécialisée.
L'IA doit dire quand elle hallucine
S'il reconnaît que les LLM ont leur utilité, Tony Fadell estime qu'ils souffrent d'un problème majeur : leur propension à "halluciner", c'est-à-dire à générer des informations erronées, sans que l'utilisateur en soit conscient. Un défaut particulièrement problématique dans certains domaines sensibles comme la médecine, où de fausses données pourraient avoir des conséquences dramatiques.
Un rapport indique que les médecins utilisant ChatGPT pour créer des dossiers patients avaient des hallucinations dans 90% des cas. Ça pourrait tuer des gens. On utilise ces trucs sans même savoir comment ils fonctionnent.
Tony Fadell, lors du TechCrunch Disrupt 2024
Pour lui, la solution passe par des IA plus spécialisées et surtout plus transparentes sur leurs limites et leurs erreurs potentielles. Les utilisateurs doivent savoir exactement à quoi s'attendre avant "d'embaucher" une IA pour une tâche précise.
L'IA, Tony Fadell connaît
Loin d'être un nouveau venu dans le domaine, Tony Fadell a rappelé que Nest utilisait déjà l'IA dans son thermostat connecté dès 2011. Mais à l'époque, impossible d'en parler ouvertement au risque d'effrayer les consommateurs. Les temps ont bien changé !
Reste que pour ce pionnier de la tech, l'engouement actuel ne doit pas faire oublier les défis encore à relever. Si l'on veut tirer le meilleur parti de l'IA sans en subir les inconvénients, il est urgent d'exiger plus de transparence et de responsabilité de la part des acteurs du secteur. Un message qui a le mérite de la clarté, au risque de froisser quelques égos de la Silicon Valley.
