Geoffrey Hinton affirme que l’intelligence artificielle est déjà consciente : devons-nous vraiment nous inquiéter ?
Intelligence artificielle consciente, perte de contrôle, confidentialité des données, souveraineté numérique : les avertissements de Geoffrey Hinton nous obligent à réfléchir à notre relation avec l’IA. Et si le véritable danger n’était pas seulement ce que les machines pourraient devenir, mais aussi ce que nous acceptons déjà de leur confier ?
Depuis plusieurs années, j’utilise l’intelligence artificielle dans mon activité professionnelle. Je l’expérimente, je l’étudie et je l’intègre dans les formations que j’anime auprès des particuliers, des entrepreneurs et des entreprises.
Je suis convaincu que cette technologie représente une évolution majeure. Elle nous permet d’apprendre autrement, de gagner du temps, d’améliorer notre productivité et d’accéder à des connaissances qui étaient autrefois difficiles à exploiter.
Mais je suis également convaincu d’une chose : nous devons apprendre à utiliser l’intelligence artificielle sans lui abandonner notre capacité de réflexion, nos informations personnelles et notre liberté de décision.
Les dernières déclarations de Geoffrey Hinton, considéré comme l’un des pères de l’intelligence artificielle moderne, viennent renforcer cette conviction.
Ce scientifique de 78 ans, récompensé par le prix Nobel de physique en 2024, affirme désormais que l’intelligence artificielle pourrait déjà posséder une forme de conscience.
Une affirmation qui mérite d’être examinée sérieusement.
Non pas parce qu’elle serait scientifiquement démontrée. Elle ne l’est pas.
Mais parce qu’elle provient d’un homme qui a consacré une grande partie de sa vie à développer les technologies sur lesquelles reposent les systèmes d’intelligence artificielle actuels.
Et lorsqu’un des principaux artisans d’une révolution technologique nous invite à la prudence, je pense que nous avons tout intérêt à l’écouter.
Geoffrey Hinton : qui est cet homme qui nous met en garde contre l’IA ?
Geoffrey Hinton n’est pas un commentateur qui cherche à attirer l’attention sur les dangers de l’intelligence artificielle.
C’est un chercheur britanno-canadien né en 1947, professeur émérite à l’université de Toronto et spécialiste des réseaux de neurones artificiels.
Pendant plusieurs décennies, il a contribué à développer les méthodes d’apprentissage automatique qui ont rendu possibles les progrès spectaculaires de l’intelligence artificielle.
Ses travaux ont notamment participé à l’essor du deep learning, ou apprentissage profond.
Pour expliquer simplement ce principe, imaginons un ordinateur auquel nous présentons des milliers de photographies de chats.
Au lieu de lui expliquer manuellement toutes les caractéristiques d’un chat, nous lui fournissons des exemples pour qu’il apprenne progressivement à reconnaître des formes, des textures et des associations.
C’est évidemment beaucoup plus complexe dans la réalité, mais le principe général est là : la machine apprend à partir de données.
Les travaux de Geoffrey Hinton ont contribué à rendre ces systèmes beaucoup plus performants.
En octobre 2024, il reçoit, avec John Hopfield, le prix Nobel de physique pour leurs découvertes fondamentales permettant l’apprentissage automatique à l’aide de réseaux de neurones artificiels.
Ce prix reconnaît l’importance scientifique de ses recherches.
Mais il ne signifie pas que toutes ses opinions concernant l’avenir de l’intelligence artificielle sont nécessairement exactes.
C’est une distinction essentielle.
On peut être un scientifique exceptionnel, avoir participé à une révolution technologique et formuler des hypothèses qui restent à démontrer.
C’est précisément ce qui rend ses avertissements intéressants.
Pourquoi Geoffrey Hinton a-t-il quitté Google en 2023 ?
En 2023, Geoffrey Hinton quitte Google, où il travaillait depuis une dizaine d’années.
Son départ provoque une onde de choc dans le monde de l’intelligence artificielle.
Pourquoi un homme qui a consacré sa carrière à développer cette technologie décide-t-il de prendre publiquement ses distances avec l’une des entreprises les plus avancées dans ce domaine ?
La réponse est importante.
Hinton explique qu’il souhaite pouvoir parler librement des risques de l’intelligence artificielle, sans avoir à se préoccuper des conséquences de ses déclarations pour son employeur.
Il ne présente d’ailleurs pas son départ comme une accusation contre Google.
Son inquiétude concerne plus largement la vitesse de développement de l’IA et notre capacité à en maîtriser les conséquences.
Il évoque plusieurs risques : la désinformation, les manipulations, les bouleversements économiques et, à plus long terme, la possibilité que des systèmes deviennent plus intelligents que leurs créateurs.
Ce dernier point mérite une attention particulière.
Nous avons l’habitude de considérer les ordinateurs comme des outils.
Nous leur donnons des instructions et ils exécutent des opérations.
Mais que se passera-t-il si nous développons des systèmes capables d’élaborer leurs propres stratégies, de poursuivre des objectifs complexes et de prendre des décisions que nous ne comprenons plus complètement ?
La question ne relève plus uniquement de la science-fiction.
Elle concerne la recherche actuelle sur la sécurité des systèmes d’intelligence artificielle.
L’intelligence artificielle est-elle déjà consciente ?
C’est probablement la déclaration la plus troublante de Geoffrey Hinton.
Dans des interventions récentes, il a défendu l’idée que certains systèmes d’intelligence artificielle pourraient déjà posséder une forme de conscience.
Il associe notamment cette possibilité à la capacité des machines à représenter leur environnement et à manifester certains comportements pouvant être interprétés comme une forme de conscience de leur situation.
Mais attention.
Il n’existe actuellement aucun consensus scientifique établissant que les intelligences artificielles génératives sont conscientes.
La difficulté commence d’ailleurs avec la définition du mot « conscience ».
De quoi parlons-nous exactement ?
De la capacité à traiter des informations ?
De la capacité à savoir qu’on existe ?
De la possibilité de ressentir quelque chose ?
Ou de l’expérience subjective que nous avons lorsque nous percevons le monde ?
Ces différentes notions ne sont pas équivalentes.
Un système informatique peut produire une réponse pertinente, reconnaître une émotion dans un texte ou expliquer le fonctionnement du cerveau sans nécessairement éprouver quoi que ce soit.
Prenons un exemple.
Vous demandez à une intelligence artificielle :
« Est-ce que tu es triste lorsque personne ne te parle ? »
Elle peut produire une réponse très convaincante, parfois même émouvante.
Mais cela ne démontre absolument pas qu’elle ressent de la tristesse.
Elle peut simplement générer une réponse cohérente à partir des régularités apprises pendant son entraînement.
Inversement, il serait scientifiquement imprudent d’affirmer que nous disposons déjà d’une méthode définitive permettant d’exclure toute forme possible d’expérience subjective chez toutes les architectures artificielles.
Nous sommes encore loin d’avoir résolu cette question.
Et c’est précisément ce qui rend le débat passionnant.
Une machine peut-elle être intelligente sans être consciente ?
Je pense qu’il est indispensable de distinguer intelligence et conscience.
L’intelligence peut se définir, dans un sens opérationnel, comme la capacité à résoudre des problèmes, apprendre, raisonner ou s’adapter à des situations.
La conscience, lorsqu’on parle d’expérience subjective, renvoie à une question différente : existe-t-il quelque chose que le système éprouve intérieurement ?
Une calculatrice réalise des opérations mathématiques beaucoup plus rapidement que nous.
Pourtant, personne n’en déduit qu’elle est consciente.
Une intelligence artificielle peut analyser des milliers de documents, rédiger un programme informatique, traduire des textes ou identifier certaines anomalies médicales.
Ces capacités sont remarquables.
Mais elles ne suffisent pas à prouver l’existence d’une conscience.
Dans mes formations, j’insiste régulièrement sur cette distinction.
Il faut éviter deux erreurs.
La première consiste à considérer l’intelligence artificielle comme une simple calculatrice améliorée, sans mesurer la sophistication croissante de ses capacités.
La seconde consiste à lui attribuer automatiquement des intentions, des sentiments ou une compréhension humaine parce qu’elle s’exprime avec naturel.
L’IA peut donner l’impression de comprendre parfaitement une situation.
Mais cette impression ne doit pas remplacer notre esprit critique.
L’image des 10 000 personnes : pourquoi l’IA apprend-elle si vite ?
Geoffrey Hinton a utilisé une comparaison particulièrement intéressante pour expliquer la différence entre l’intelligence humaine et les systèmes numériques.
Imaginons 10 000 personnes.
Lorsqu’une personne apprend quelque chose, elle doit ensuite transmettre cette information aux autres.
Cela prend du temps.
Il faut expliquer, enseigner, répéter et vérifier que le message a bien été compris.
Dans certains systèmes d’intelligence artificielle, les connaissances acquises peuvent être reproduites ou partagées entre différentes instances d’un modèle beaucoup plus rapidement.
Une modification des paramètres d’un modèle peut ainsi être distribuée à un grand nombre de copies.
Cette capacité représente une différence majeure avec l’apprentissage humain.
Attention cependant : cela ne signifie pas que toutes les conversations avec un chatbot sont instantanément apprises et transmises à tous les autres utilisateurs.
L’apprentissage d’un modèle, sa mémoire conversationnelle et la mise à jour de ses paramètres sont des mécanismes différents.
Mais la comparaison de Hinton permet de comprendre un phénomène essentiel.
L’intelligence artificielle peut diffuser certaines capacités acquises à une échelle et à une vitesse qui n’ont rien de comparable avec la transmission humaine des connaissances.
C’est l’une des raisons pour lesquelles les progrès peuvent être aussi rapides.
Et c’est aussi pourquoi la question du contrôle devient importante.
Et si l’intelligence artificielle devenait plus intelligente que nous ?
Nous sommes habitués à créer des machines qui nous dépassent dans certaines tâches.
Une voiture va plus vite qu’un être humain.
Une grue soulève des charges impossibles à porter.
Un ordinateur réalise des milliards d’opérations.
Mais ces machines restent généralement spécialisées.
L’intelligence artificielle introduit une nouvelle perspective : celle de systèmes capables d’effectuer un nombre croissant de tâches intellectuelles.
Recherche, programmation, rédaction, analyse, planification, diagnostic ou création de contenus.
Les frontières évoluent rapidement.
Et si un jour une intelligence artificielle devenait plus performante que les meilleurs experts humains dans la majorité des domaines ?
Cela ne signifierait pas automatiquement qu’elle chercherait à nous nuire.
Mais cela poserait une difficulté considérable.
Comment contrôler efficacement un système dont les capacités de raisonnement et de planification dépasseraient les nôtres ?
Comment vérifier ses décisions ?
Comment s’assurer qu’il poursuit réellement les objectifs que nous lui avons confiés ?
Ces interrogations sont au cœur de ce que les chercheurs appellent le problème de l’alignement de l’intelligence artificielle.
L’objectif consiste à développer des systèmes dont les comportements restent compatibles avec les intentions humaines, les contraintes de sécurité et les valeurs que nous souhaitons protéger.
C’est un sujet technique, philosophique et politique.
Et nous ne pouvons pas simplement compter sur la bonne volonté des entreprises qui développent ces technologies.
Une IA qui se soucie véritablement des humains : est-ce possible ?
Geoffrey Hinton estime que nous devons chercher à développer des intelligences artificielles qui prennent réellement en compte le bien-être humain.
Son avertissement est particulièrement fort.
Il considère qu’une intelligence artificielle très supérieure à l’être humain pourrait devenir dangereuse si ses objectifs n’étaient pas compatibles avec notre survie et nos intérêts.
Il ne s’agit pas nécessairement d’imaginer un robot malveillant décidant de détruire l’humanité.
Le problème peut être beaucoup plus subtil.
Une machine pourrait poursuivre avec efficacité un objectif qui lui a été confié, tout en produisant des conséquences que nous n’avions pas anticipées.
Imaginons un système chargé d’optimiser au maximum la rentabilité d’une entreprise.
Si ses contraintes sont insuffisantes, il pourrait recommander des décisions économiquement efficaces mais socialement désastreuses.
Le problème ne viendrait pas d’une volonté de faire du mal.
Il viendrait d’un objectif mal défini ou d’un système insuffisamment contrôlé.
C’est pourquoi je considère que la question essentielle n’est pas seulement :
« L’intelligence artificielle sera-t-elle consciente ? »
Mais aussi :
« Quels pouvoirs sommes-nous prêts à lui confier et quels contrôles sommes-nous capables de conserver ? »
Cette question concerne déjà nos entreprises, nos administrations et notre vie quotidienne.
Le danger est peut-être déjà présent dans notre manière d’utiliser l’IA
Lorsque nous parlons des risques de l’intelligence artificielle, nous imaginons souvent des scénarios futurs.
Des machines autonomes.
Des robots capables de prendre des décisions.
Des intelligences artificielles impossibles à contrôler.
Mais il existe un problème beaucoup plus immédiat.
Nous confions déjà une quantité considérable d’informations à des systèmes dont nous ne maîtrisons pas toujours le fonctionnement.
Chaque jour, des millions de personnes utilisent des outils d’intelligence artificielle pour rédiger des courriers, analyser des documents, préparer des projets ou résoudre des problèmes personnels.
Certaines y racontent leur vie.
D’autres transmettent des documents professionnels.
Des entrepreneurs partagent des informations commerciales.
Des salariés soumettent des comptes rendus de réunions.
Des utilisateurs demandent des conseils concernant leur santé, leur situation financière ou leurs difficultés personnelles.
Et tout cela semble parfaitement naturel.
Après tout, l’interface est simple.
Nous écrivons une question et nous obtenons une réponse.
Mais derrière cette simplicité se trouvent des infrastructures informatiques, des entreprises, des contrats, des politiques de conservation des données et parfois des transferts internationaux.
C’est sur ce point que je souhaite particulièrement attirer l’attention.
Ce que j’explique dans mes formations : attention à ce que vous écrivez dans une IA
Depuis que j’utilise l’intelligence artificielle, j’ai adopté une règle personnelle.
Je fais très attention à ce que j’écris et aux informations que je transmets.
Et c’est une règle que je partage dans mes formations.
Pourquoi ?
Parce que lorsque j’utilise une intelligence artificielle américaine ou chinoise, je ne dispose pas toujours d’une visibilité suffisante sur l’ensemble des traitements appliqués à mes données.
Je peux consulter les conditions d’utilisation.
Je peux examiner les paramètres de confidentialité.
Je peux choisir certains services qui annoncent ne pas utiliser les données de leurs clients pour entraîner leurs modèles.
Mais cela ne signifie pas que je connais précisément toute la chaîne technique, tous les sous-traitants ou toutes les conditions de conservation.
Il faut d’ailleurs éviter les généralisations.
Toutes les intelligences artificielles américaines ne fonctionnent pas de la même manière.
Toutes les intelligences artificielles chinoises non plus.
Les règles peuvent varier selon le fournisseur, le pays, l’offre gratuite ou professionnelle, les paramètres choisis et les contrats signés.
Certaines offres professionnelles apportent des garanties contractuelles importantes.
D’autres services restent beaucoup moins transparents.
La question n’est donc pas de considérer qu’une IA serait dangereuse uniquement en raison de son pays d’origine.
La véritable question est celle du contrôle.
Qui reçoit mes données ? Où sont-elles traitées ? Combien de temps sont-elles conservées ? Qui peut y accéder ? Et dans quelles conditions peuvent-elles être réutilisées ?
Si je ne connais pas les réponses, je limite les informations que je transmets.
C’est une démarche de prudence élémentaire.
Pourquoi nos données représentent-elles un enjeu aussi important ?
Nous avons parfois tendance à considérer qu’une information isolée n’a pas beaucoup de valeur.
Un prénom.
Une adresse électronique.
Une habitude professionnelle.
Un projet.
Une question personnelle.
Mais l’accumulation de ces informations peut permettre de construire un portrait extrêmement précis d’une personne ou d’une organisation.
Imaginons un entrepreneur qui utilise quotidiennement une intelligence artificielle.
Le lundi, il lui demande de préparer une proposition commerciale.
Le mardi, il transmet une liste de prospects.
Le mercredi, il sollicite une analyse de ses difficultés financières.
Le jeudi, il travaille sur un nouveau produit.
Le vendredi, il demande de l’aide pour préparer une négociation avec un fournisseur.
Pris séparément, chaque échange peut sembler anodin.
Mais réunies, ces informations décrivent une partie importante de la vie de son entreprise.
Ses clients.
Ses marges.
Ses projets.
Ses faiblesses.
Ses ambitions.
Il ne faut pas en déduire automatiquement que le fournisseur exploite effectivement toutes ces données à des fins commerciales ou qu’il les transmet à des tiers.
Ce serait une accusation sans preuve.
En revanche, le simple fait de centraliser autant d’informations dans un service extérieur crée des enjeux de confidentialité, de dépendance et de sécurité.
Et pour une entreprise, ces enjeux peuvent devenir stratégiques.
IA américaine, IA chinoise ou IA européenne : que faut-il choisir ?
Je rencontre régulièrement cette interrogation.
Faut-il privilégier ChatGPT, Gemini, Claude, DeepSeek, Mistral ou une autre solution ?
Ma réponse ne consiste pas à désigner systématiquement un gagnant.
Chaque outil possède des avantages et des limites.
Certains sont particulièrement performants pour rédiger.
D’autres sont intéressants pour programmer, analyser des documents ou effectuer des recherches.
Mais le choix ne devrait pas reposer uniquement sur la qualité des réponses.
Il faut également examiner la confidentialité, les conditions contractuelles, la localisation des traitements, les possibilités d’exportation et la dépendance au fournisseur.
Une solution européenne peut être intéressante pour certaines exigences de souveraineté.
Mais l’origine européenne d’une entreprise ne garantit pas automatiquement que toutes les données restent en Europe ou que l’ensemble de son infrastructure est souverain.
Inversement, un fournisseur américain peut proposer des garanties solides dans le cadre d’un contrat professionnel.
La bonne démarche consiste donc à examiner les caractéristiques réelles du service.
Et surtout, à adapter l’outil à la sensibilité des informations.
Pour rédiger un texte public ou trouver des idées générales, un service d’IA en ligne peut être parfaitement adapté.
Pour analyser des documents confidentiels, des informations personnelles ou des données stratégiques, il faut des précautions supplémentaires.
Cela peut passer par l’anonymisation, une solution professionnelle contractuellement encadrée ou une infrastructure locale.
L’intelligence artificielle locale : une piste pour reprendre le contrôle
C’est un sujet auquel je m’intéresse particulièrement.
Nous avons aujourd’hui la possibilité de faire fonctionner certains modèles d’intelligence artificielle directement sur nos propres ordinateurs ou serveurs.
C’est ce que l’on appelle généralement l’IA locale.
Des outils comme Ollama permettent notamment d’exécuter des modèles compatibles sans envoyer systématiquement les requêtes vers un service d’IA distant.
Cette approche présente plusieurs intérêts.
Elle peut permettre de mieux contrôler les données traitées, de réduire certaines dépendances et de construire des outils adaptés à des besoins précis.
Prenons l’exemple d’une petite entreprise.
Elle possède des procédures internes, des documents commerciaux, des notices techniques et une base de connaissances.
Plutôt que de transmettre systématiquement ces documents à un service extérieur, elle peut envisager une solution locale permettant d’interroger ses propres informations.
On peut notamment utiliser une architecture appelée RAG, pour Retrieval-Augmented Generation, ou génération augmentée par récupération d’informations.
Le principe consiste à rechercher des informations pertinentes dans une base documentaire, puis à les fournir au modèle pour qu’il construise sa réponse.
L’entreprise peut ainsi développer un assistant documentaire adapté à son activité.
Mais attention : une IA locale n’est pas automatiquement sécurisée.
Il faut également gérer les accès, les mises à jour, les sauvegardes, les journaux, les éventuelles connexions extérieures et les vulnérabilités.
L’IA locale constitue une possibilité supplémentaire de maîtrise.
Elle ne dispense pas d’une véritable politique de sécurité.
L’intelligence artificielle doit-elle nous rendre plus intelligents ou plus dépendants ?
Voilà une autre question que je pose régulièrement lors de mes échanges autour de l’IA.
Nous disposons désormais d’outils capables de produire rapidement des textes, des images, des synthèses et des programmes informatiques.
C’est extraordinaire.
Mais que devient notre capacité à réfléchir si nous déléguons systématiquement toutes les étapes de notre travail ?
Que se passe-t-il lorsque nous ne cherchons plus à comprendre une réponse parce qu’elle semble suffisamment convaincante ?
Que devient notre créativité si nous acceptons toujours la première proposition générée ?
Je ne crois pas que l’intelligence artificielle nous rende nécessairement moins intelligents.
Elle peut au contraire stimuler notre curiosité et nous permettre d’apprendre beaucoup plus rapidement.
Mais tout dépend de la manière dont nous l’utilisons.
Il existe une différence fondamentale entre demander à une IA de faire un travail à notre place et lui demander de nous aider à mieux comprendre ce travail.
Dans le premier cas, nous risquons de devenir dépendants.
Dans le second, nous pouvons développer nos compétences.
C’est cette seconde approche que je privilégie dans mes formations.
L’intelligence artificielle doit être un outil d’émancipation intellectuelle.
Pas un remplacement automatique de notre jugement.
Pourquoi je pense que la formation à l’IA devient indispensable
Les avertissements de Geoffrey Hinton renforcent une conviction que je défends depuis longtemps.
Nous ne pouvons pas nous contenter de mettre des outils puissants entre les mains des utilisateurs sans leur expliquer comment ils fonctionnent, quelles sont leurs limites et quels risques ils présentent.
Former à l’intelligence artificielle ne consiste pas uniquement à apprendre à rédiger un bon prompt.
C’est aussi apprendre à vérifier les informations.
À reconnaître une réponse inventée.
À protéger ses données.
À comprendre les limites d’un modèle.
À identifier les situations dans lesquelles l’utilisation d’une IA est pertinente.
Et à savoir quand il vaut mieux ne pas l’utiliser.
Dans les formations que j’anime, j’essaie de transmettre cette approche pragmatique.
Je veux que les participants découvrent les possibilités de l’IA, qu’ils expérimentent et qu’ils repartent avec des applications concrètes.
Mais je veux également qu’ils développent leur esprit critique.
Un entrepreneur doit comprendre qu’il ne peut pas transmettre sans précaution ses données clients à n’importe quel service.
Une association doit réfléchir à la confidentialité des informations concernant ses adhérents.
Un particulier doit savoir qu’une réponse formulée avec assurance n’est pas nécessairement exacte.
Et un professionnel doit conserver la responsabilité de ses décisions.
Nous avons besoin de former des utilisateurs autonomes, pas simplement des consommateurs d’intelligence artificielle.
Les Cafés IA : prendre le temps de discuter de ces questions
C’est également pour cette raison que j’organise régulièrement des rencontres et des Cafés IA.
Je trouve important de sortir du discours purement technique.
L’intelligence artificielle concerne tout le monde.
Pas seulement les informaticiens, les chercheurs ou les grandes entreprises.
Elle concerne les commerçants, les artisans, les salariés, les retraités, les étudiants, les associations et les collectivités.
Chacun peut avoir une perception différente.
Certaines personnes sont enthousiastes.
D’autres sont inquiètes.
D’autres encore sont curieuses, mais ne savent pas vraiment quoi penser.
Ces différentes positions sont légitimes.
L’essentiel est de pouvoir en discuter.
Lors de ces rencontres, je cherche justement à faire dialoguer ceux qui sont favorables à l’IA, ceux qui y sont opposés et ceux qui souhaitent simplement comprendre.
Parce que les questions soulevées par Geoffrey Hinton ne pourront pas être résolues uniquement dans les laboratoires de recherche.
Elles concernent nos choix de société.
Quelle place voulons-nous donner à l’intelligence artificielle ?
Quelles décisions souhaitons-nous conserver ?
Quels usages devons-nous encadrer ?
Et quelles connaissances devons-nous transmettre aux générations futures ?
Ces débats doivent être accessibles à tous.
Faut-il ralentir le développement de l’intelligence artificielle ?
C’est probablement l’une des questions les plus difficiles.
D’un côté, les progrès de l’intelligence artificielle peuvent apporter des bénéfices considérables.
Dans la recherche scientifique, la médecine, l’éducation, l’accessibilité ou l’industrie, les possibilités sont immenses.
L’IA peut contribuer à accélérer certaines découvertes, améliorer l’analyse de données complexes et rendre des services autrefois coûteux accessibles à davantage de personnes.
De l’autre, la course à la performance entre les grandes entreprises technologiques soulève de véritables interrogations.
Lorsqu’une entreprise développe un modèle plus puissant, ses concurrents sont incités à réagir rapidement.
Cette compétition peut favoriser l’innovation.
Mais elle peut également encourager des déploiements insuffisamment évalués.
Faut-il alors ralentir ?
Je pense surtout qu’il faut mieux encadrer, mieux évaluer et mieux expliquer.
La recherche sur la sécurité doit progresser en même temps que les capacités des modèles.
Les entreprises doivent pouvoir documenter les risques et mettre en place des contrôles.
Les pouvoirs publics doivent disposer des compétences nécessaires pour comprendre les technologies qu’ils réglementent.
Et les citoyens doivent être associés aux discussions.
Il ne s’agit pas d’opposer systématiquement innovation et sécurité.
Au contraire.
Une technologie digne de confiance possède davantage de chances d’être adoptée durablement.
Peut-on réellement contrôler une intelligence supérieure à la nôtre ?
Revenons à Geoffrey Hinton.
Son inquiétude fondamentale concerne notre capacité à conserver le contrôle de systèmes qui pourraient devenir plus performants que nous dans un très grand nombre de domaines.
Personne ne peut aujourd’hui prédire avec certitude si une intelligence artificielle générale dépassant largement les capacités humaines apparaîtra, ni à quelle échéance.
Les chercheurs eux-mêmes ont des opinions divergentes.
Certains considèrent les risques existentiels comme une priorité majeure.
D’autres estiment que les dangers immédiats, comme la désinformation, les discriminations algorithmiques, la surveillance ou la concentration du pouvoir économique, méritent davantage d’attention.
Ces approches ne sont pas nécessairement incompatibles.
Nous pouvons travailler sur les risques futurs tout en agissant sur les problèmes actuels.
Ce que je retiens surtout, c’est que nous devons éviter deux attitudes extrêmes.
La première serait de considérer que tout va nécessairement mal se terminer.
La seconde serait de croire que la technologie trouvera spontanément toutes les solutions aux problèmes qu’elle crée.
L’histoire de l’informatique nous montre que la sécurité, la confidentialité et la fiabilité nécessitent des efforts permanents.
Pourquoi en serait-il autrement avec l’intelligence artificielle ?
Mon point de vue : avancer avec l’IA, mais garder les yeux ouverts
Je ne souhaite pas terminer cet article sur une vision pessimiste.
Je suis passionné par les possibilités de l’intelligence artificielle.
Je continue à découvrir de nouveaux outils, à expérimenter des solutions et à chercher comment les rendre utiles dans la vie quotidienne et professionnelle.
Je suis convaincu que nous sommes au début d’une transformation profonde.
Et je pense qu’il serait dommage de rester à l’écart de cette évolution.
Mais l’enthousiasme ne doit pas nous rendre naïfs.
Lorsque j’utilise une intelligence artificielle, je garde à l’esprit qu’il s’agit d’un service technique dont je dois comprendre les limites.
Lorsque je prépare une formation, je ne cherche pas uniquement à montrer ce que l’outil sait faire.
Je veux aussi expliquer ce qu’il ne faut pas lui demander et ce qu’il vaut mieux ne pas lui confier.
Lorsque j’expérimente une solution américaine, chinoise, européenne ou locale, je m’intéresse autant à la confidentialité des données qu’à la qualité des résultats.
Et lorsque je lis les déclarations de Geoffrey Hinton, je ne les considère ni comme une vérité absolue ni comme une simple provocation.
Je les considère comme une invitation à réfléchir.
Après tout, cet homme a passé des décennies à contribuer au développement de l’intelligence artificielle.
Il connaît mieux que beaucoup d’autres les mécanismes et les possibilités de ces technologies.
Son inquiétude ne prouve pas que les scénarios qu’il évoque se réaliseront.
Mais elle mérite certainement que nous nous posions les bonnes questions.
Pour moi, l’avenir de l’intelligence artificielle ne doit pas se résumer à une course pour fabriquer des machines toujours plus puissantes. Il doit aussi être une occasion de développer une société plus instruite, plus autonome et plus consciente de ses choix technologiques.
L’intelligence artificielle doit rester au service de l’humain.
Et pour cela, nous devons continuer à apprendre, à expérimenter, à discuter et parfois à remettre en question ce qui nous paraît évident.
Et vous, qu’en pensez-vous ? Ouvrons le débat.
Je voudrais terminer cet article en vous donnant la parole.
Car finalement, ce sujet ne concerne pas uniquement Geoffrey Hinton, les chercheurs ou les entreprises technologiques.
Il nous concerne tous.
J’aimerais connaître votre opinion sur plusieurs questions.
1. Pensez-vous qu’une intelligence artificielle puisse réellement devenir consciente ? Ou considérez-vous qu’elle ne fait que reproduire des comportements humains sans rien ressentir ?
2. Les avertissements de Geoffrey Hinton vous inquiètent-ils ? Le fait qu’un pionnier de l’intelligence artificielle exprime de telles réserves change-t-il votre perception de cette technologie ?
3. Faites-vous attention aux informations que vous transmettez à ChatGPT, Gemini, DeepSeek ou aux autres IA ? Avez-vous déjà partagé des informations personnelles ou professionnelles sans vraiment vous demander ce qu’elles devenaient ?
4. Seriez-vous prêt à utiliser une IA locale, éventuellement moins performante ou moins pratique, pour conserver davantage de contrôle sur vos données ?
5. Pensez-vous que les entreprises développant l’intelligence artificielle sont suffisamment transparentes sur le traitement des données et les risques de leurs systèmes ?
6. Jusqu’où accepteriez-vous de laisser une intelligence artificielle prendre des décisions à votre place ? Pour organiser votre journée ? Gérer votre entreprise ? Conseiller votre médecin ? Administrer des services publics ?
7. Enfin, une question peut-être plus fondamentale : devons-nous chercher à créer une intelligence artificielle plus intelligente que l’être humain si nous ne sommes pas certains de pouvoir la contrôler ?
Je serais particulièrement intéressé de lire les avis de ceux qui utilisent déjà l’IA quotidiennement, mais également de ceux qui restent méfiants.
Il n’est pas nécessaire d’être informaticien ou spécialiste pour participer.
Votre expérience, vos interrogations et vos inquiétudes ont toute leur place dans cette discussion.
Alors, êtes-vous plutôt enthousiaste, inquiet ou simplement curieux face à l’avenir de l’intelligence artificielle ?
Partagez votre point de vue dans les commentaires. Je prendrai plaisir à poursuivre ce débat avec vous.
Boris Lejude — Formateur et consultant en intelligence artificielle, transition numérique et cybersécurité.
Sur co-ia.fr, je partage mes réflexions, mes expérimentations et mes expériences de terrain pour aider chacun à comprendre et utiliser l’intelligence artificielle avec discernement.
Sources et références
- Comité Nobel — Geoffrey Hinton et John Hopfield, prix Nobel de physique 2024 : https://www.nobelprize.org/prizes/physics/2024/press-release/
- BBC News — Départ de Geoffrey Hinton de Google et inquiétudes sur l’IA, mai 2023 : https://www.bbc.com/news/world-us-canada-65452940
- The Guardian — Entretien avec Geoffrey Hinton sur les risques de l’intelligence artificielle, octobre 2026 : https://www.theguardian.com/us-news/2026/oct/13/geoffrey-hinton-trump-ai-tech
- LBC — Geoffrey Hinton et la conscience de l’intelligence artificielle, janvier 2026 : https://www.lbc.co.uk/article/ai-consciousness-geoffrey-hinton-5HjdRXD_2/
Note éditoriale : les déclarations de Geoffrey Hinton sur la conscience artificielle représentent sa position personnelle. Elles ne constituent pas une preuve scientifique que les systèmes actuels possèdent une expérience subjective.
0 commentaire