« Les modèles actuels ne sont pas dangereux - vous n’avez jamais été victime d’une cyberattaque dévastatrice créée par un LLM. Mais le compute d’entraînement augmente de 4 à 5 fois par an depuis 14 ans. C’est plus rapide que l’adoption des téléphones portables. »

— Timothé, X17, chercheur en AI safety

🎯 De quoi ça parle

Trois experts décortiquent la sécurité de l’IA générative sous trois angles complémentaires : l’évaluation des capacités dangereuses des modèles, le watermarking pour tracer les contenus générés, et le cadre réglementaire européen avec l’AI Act. Une vision à 360° des défis techniques et juridiques qui se posent aujourd’hui.

📌 Les 3 points clés

1. Les modèles actuels ne sont pas dangereux, mais le scaling continue

Le compute d’entraînement a été multiplié par 5000 entre GPT-2 et GPT-4. Selon EPOCH AI, cette tendance peut continuer jusqu’en 2030 avec encore un facteur 10 000, malgré des besoins énergétiques considérables (6 GW, soit un tiers des foyers français). Les entreprises comme OpenAI et Anthropic ont déjà adopté des « Responsible Scaling Policies » pour évaluer les risques CBRN, cyber, persuasion et autonomie des modèles avant chaque nouvelle génération.

2. Le watermarking améliore la détection de 10 millions de fois par rapport aux méthodes passives

Pierre Fernandez (Meta FAIR) démontre que le tatouage numérique permet de détecter plus de 80 % des images générées par IA tout en ne flaggant faussement qu’une image sur un milliard. Les méthodes passives (classifieurs entraînés) atteignent le même taux de détection avec un faux positif sur dix. Le watermarking fonctionne pour l’image, l’audio et même le texte (avec des p-values de 10⁻⁶ sur un tweet). Meta, Google et DeepMind l’ont déjà déployé en production.

3. L’AI Act européen impose des seuils techniques contestables

L’Europe a fixé le seuil de « risque systémique » à 10²⁵ FLOPS, là où les États-Unis ont choisi 10²⁶. Ce critère technique détermine les obligations de conformité des fournisseurs de modèles à usage général. Le texte est applicable depuis août 2024 avec des sanctions pouvant atteindre 7 % du chiffre d’affaires. Cependant, de nombreux codes de pratique restent à définir, et le bureau européen de l’IA consulte actuellement les acteurs du secteur.

💬 Mon regard de praticien

Cette conférence offre un panorama technique rare sur l’AI safety, loin du sensationnalisme habituel. Ce qui me frappe : le décalage entre la sophistication des méthodes d’évaluation chez les grands labs et l’absence quasi-totale de ces pratiques dans les déploiements hospitaliers. Le watermarking pourrait avoir des applications directes en imagerie médicale pour tracer les reconstructions IA. Quant à l’AI Act, son impact sur les dispositifs médicaux reste flou — les seuils de FLOPS n’ont aucun sens pour évaluer un algorithme de diagnostic.

🔗 Voir la conférence complète

« L’IA n’est peut-être qu’un piètre substitut au médecin, mais c’est un excellent substitut à l’absence de médecin. »

— Bruce Schneier, technologue en sécurité et auteur

🎯 De quoi ça parle

Un expert en sécurité informatique et une médecin urgentiste dissèquent les usages actuels de l’IA en médecine. Leur constat : l’IA est déjà partout dans les soins, souvent à l’insu des patients. La vraie question n’est plus « faut-il l’utiliser ? » mais « comment l’encadrer pour qu’elle serve les patients plutôt que les seuls intérêts économiques ? »

📌 Les 3 points clés

1. L’IA prédictive sauve déjà des vies, l’IA générative reste à prouver

Il faut distinguer deux types d’IA en médecine. L’IA prédictive — celle qui analyse des données pour identifier des anomalies — a des cas d’usage solides : détection de lésions sur mammographies, identification de patients à risque d’aggravation en soins intensifs, diagnostic de tuberculose dans les pays à ressources limitées. L’IA générative (les chatbots), elle, n’est pas encore fiable pour le triage ou le diagnostic. Le Dr Wen est catégorique : « Je ne veux pas que les patients remplacent dès maintenant leurs interactions avec leurs médecins par l’IA générative. »

2. Les jeunes cliniciens utilisent l’IA à 100 % et cela change tout

Selon les témoignages recueillis par le Dr Wen, 100 % des étudiants en médecine et internes utilisent déjà l’IA au quotidien : rédaction de notes, interprétation de résultats, recherche d’informations cliniques. Ce qui prenait 10 minutes de lecture d’articles se fait désormais en quelques secondes. La conclusion est brutale : les cliniciens qui savent utiliser l’IA vont remplacer ceux qui ne le font pas. Et une nouvelle catégorie de soignants pourrait émerger — formés en 3 ans au lieu de 12, mais armés d’outils d’IA sophistiqués.

3. La transparence ne suffit pas: il faut surveillance et responsabilité

Bruce Schneier, fort de son expertise en sécurité, pose un cadre clair : pour qu’une IA soit digne de confiance, trois éléments sont indispensables. La transparence d’abord (comment l’algorithme a-t-il été entraîné ? sur quelles données ?). La surveillance ensuite (qui vérifie que le système fonctionne comme prévu ?). La responsabilité enfin (qui est comptable des erreurs ?). Sans ces deux derniers piliers, « nous ne faisons que savoir des choses » — ce qui ne protège personne.

💬 Mon regard de praticien

Cette conversation met le doigt sur un angle mort du débat français : nous discutons encore du « pour ou contre l’IA » alors que la vraie bataille se joue sur le « comment ». L’exemple des compagnies d’assurance américaines utilisant l’IA pour refuser des demandes pendant que les médecins utilisent l’IA pour les rédiger, illustre parfaitement les rapports de force à surveiller. En France, la question se posera différemment (Assurance Maladie, tarification à l’activité), mais le risque est le même : que les gains de productivité profitent aux structures plutôt qu’aux soignants et aux patients. Le triptyque transparence-surveillance-responsabilité de Schneier devrait être gravé au fronton de tout projet d’IA en santé.

Voir la conférence complète (⚠️ Video en anglais)

« Un célibataire américain sur six et un membre de la génération Z sur trois ont déjà eu une relation amoureuse avec une intelligence artificielle. »

— Angela Ivy Leong, citant une étude du Kinsey Institute

🎯 De quoi ça parle

Cette conférence TEDx interroge l’impact des compagnons IA sur notre capacité à créer de véritables liens humains. Angela Ivy Leong, psychothérapeute spécialisée en sexualité et relations, s’appuie sur des données du Kinsey Institute et des cas cliniques pour alerter sur les risques biologiques et psychologiques de cette substitution croissante.

📌 Les 3 points clés

1. La synchronisation nerveuse entre humains est irremplaçable

L’intimité humaine repose sur une boucle de rétroaction biologique bidirectionnelle : le toucher libère de l’ocytocine, les baisers des endorphines, et les pupilles se dilatent lors d’une connexion profonde. Une étude de l’University College London sur plus de 1 700 personnes confinées pendant la pandémie a montré que la privation de contact physique augmente significativement la dépression, l’anxiété et la solitude. L’IA, elle, ne possède pas de système nerveux capable de répondre au vôtre — la boucle reste unilatérale.

2. Les compagnons IA créent une « fatigue du fantasme »

À travers des cas cliniques, la thérapeute décrit un phénomène récurrent chez ses patients : après une phase d’enthousiasme, l’illusion d’intimité s’effondre et laisse un sentiment de vide. Elle rapporte le cas de James, 28 ans, qui recommençait simplement ses conversations IA quand elles ne lui convenaient pas — sans jamais apprendre à négocier, faire des compromis ou gérer le rejet. « Si votre partenaire ne peut jamais vous quitter, ne peut jamais être en désaccord avec vous et ne peut jamais vous décevoir, peut-on vraiment appeler cela de l’amour ? »

3. La génération Z est la plus exposée à ce phénomène

Selon l’étude du Kinsey Institute citée, un tiers des membres de la génération Z ont déjà eu une relation amoureuse avec une IA, et près de la moitié utilisent l’IA pour améliorer leur vie amoureuse (rédaction de messages, filtrage de partenaires). Pour une génération qui apprend encore ce que signifie l’intimité, ce changement pose un risque de reconfiguration des systèmes d’attachement autour de la commodité plutôt que de la vulnérabilité nécessaire à l’amour.

💬 Mon regard de praticien

Ce TEDx pose une question pertinente pour la santé mentale : les compagnons IA peuvent-ils aggraver l’isolement qu’ils prétendent combattre ? L’argument neurobiologique est solide: la co-régulation du système nerveux entre humains est bien documentée. En revanche, la présentation manque de nuance sur les usages potentiellement bénéfiques (entraînement social pour personnes neuroatypiques, accompagnement de la solitude en fin de vie). Pour les professionnels de santé, l’enjeu pratique est de savoir reconnaître quand un patient substitue la connexion humaine par une simulation, et d’intégrer cette question dans l’anamnèse des troubles anxio-dépressifs.

Voir la conférence complète (⚠️Video en anglais)

« Les réseaux de neurones les plus avancés ne sont toujours pas capables de reconnaître un dessin d’enfant de 3 ans représentant un canard. »

— Stanislas Dehaene, neuroscientifique, Collège de France

🎯 De quoi ça parle

Stanislas Dehaene, professeur au Collège de France et spécialiste des sciences cognitives, dresse un bilan lucide des capacités comparées du cerveau humain et de l’IA. Si les réseaux de neurones modélisent correctement les premières étapes de la vision et certains aspects du langage, le cerveau conserve des avantages décisifs : apprentissage à partir de très peu d’exemples, représentation symbolique des connaissances, et sens inné de la géométrie et des mathématiques.

📌 Les 3 points clés

Le cerveau n’est pas une ardoise vierge et c’est un avantage décisif

Contrairement aux réseaux de neurones qui partent de zéro, le cerveau humain hérite de centaines de millions d’années d’évolution. Dès la naissance, les circuits spécialisés pour le langage, les nombres ou l’espace sont déjà en place. Un bébé de quelques mois calcule déjà des probabilités et détecte des violations arithmétiques, des compétences que l’IA n’acquiert qu’après un entraînement massif sur des milliards d’exemples.

« Le bébé a déjà un cerveau extrêmement plissé, avec des régions cérébrales spécialisées et des connexions à longue distance grosso modo dès la naissance. »

Les humains possèdent un « langage de la géométrie » absent chez l’IA

Les expériences de Dehaene montrent que les humains détectent instantanément les régularités géométriques (angles droits, parallèles, symétries) , une capacité que les babouins n’ont pas et que les réseaux de neurones à convolution classiques échouent à reproduire. Ce traitement symbolique des formes, présent dès l’âge préscolaire, nécessite un modèle cognitif différent de celui des réseaux actuels : un modèle où l’information est discrétisée (« il y a un angle droit ou il n’y en a pas »).

L’IA échoue sur des tâches visuelles et spatiales élémentaires

Malgré des performances impressionnantes en langage, ChatGPT-4 et même GPT-5 échouent massivement sur des problèmes de géométrie simple : tracer trois droites tangentes à un cercle, identifier une vue d’en haut d’un objet, ou distinguer une vraie illusion d’optique d’une image normale. Ces échecs révèlent que l’IA « parle » de ce qu’elle voit sans réellement « voir » — elle n’a pas accès à la structure mathématique sous-jacente des images.

💬 Mon regard de praticien

Cette conférence offre un contrepoids bienvenu à l’euphorie actuelle autour de l’IA. En médecine, nous utilisons quotidiennement notre « sens géométrique » pour interpréter des images (courbes biologiques, morphologies cellulaires, tracés ECG). Les limites décrites par Dehaene: incapacité à abstraire, à généraliser à partir de peu d’exemples, expliquent pourquoi l’IA médicale reste fragile face aux cas atypiques. Le chiffre qui me frappe : 20 watts pour le cerveau humain, contre des mégawatts pour les data centers. L’efficience énergétique du biologique reste un horizon lointain pour le silicium.

Laissez un commentaire.