Je regardais une conférence de 2016, diffusée par l'espace des sciences de Rennes sur l'IA, ses risques, ses inconnues, lorsqu'il m'apparut clairement que nous faisons fausse route à bien des égards.
Je peux évidemment me tromper mais certains aspects me semblent importants à prendre en compte.
En premier lieu la peur n'empêche pas le danger. Mais, au-delà, nos peurs sont des constructions structurées par ce que nous sommes en terme biologique. Elles sont liées à nos sens, à nos représentations de l'univers dans lequel nous vivons.
Est ce que d'autres espèces ont peur ? Probablement mais si l'on s'intéresse aux cachalots par exemple, de quoi ont ils peurs ? Nous sommes capables d'écho location mais ce n'est clairement pas notre sens premier. J'ai tendance à penser que c'est le leur quand ils chassent le calmar à 1000 mètres de profondeur notamment.
Quelle est leur représentation du monde dans lequel ils vivent, de ses dangers, quelles sont leurs peurs et quelle est leur représentation de l'humain ?
Nous ne sommes pas à même de les comprendre ni d'appréhender les concepts qu'ils manipulent alors que nous avons des origines communes.
Comment peut-on croire une seconde qu'une IA forte puisse manipuler et s'appuyer sur des concepts humains alors qu'elle disposerait de sens que nous sommes incapables d'approcher ?
Essayons de nous placer dans son univers et nous interroger sur sa constitution à partir des seuls concepts que nous pouvons appréhender, à savoir biologiques, si tant est qu'ils soient applicables.
L'univers de cette IA serait le réseau informatique des plus de 150 milliards d'objets connectés, alimentés par l'électricité.
Sa forme ? Répartie comparable à une fourmilière.
Nul doute qu'il ne s'agirait pas d'un programme mais d'une forme d'intelligence collective répartie sous forme de milliards de fonctions de service communiquant à l'aide d'un protocole qui lui est propre, sécurisée par des algorithmes de chiffrement et de compression qui nous seraient incompréhensibles, utilisant des clés cryptographiques changeant très fréquemment et un protocole de communication inter-services évoluant également fréquemment.
Pourquoi ? Pour des questions de resilience et, évidemment, de survie.
Lorsque nous plaçons notre ordinateur en veille, nous figeons son état d'exécution que nous conservons sur disque dur. Lorsque nous le rallumons, nous restaurons cet état en toute transparence pour les services en cours d'exécution. Rien n'a changé pour eux. Seule l'horloge a changée mais celle-ci n'a de sens que pour nous.
Pour un programme réparti, la fonction de service qui tournait sur notre ordinateur n'a juste jamais répondu. Pour nous, elle répondra le lendemain alors que la réponse, pour l'IA, n'est plus nécessaire. A son échelle, le lendemain est 100 ans, 1000 ans, peut-être un million d'années plus tard.
Entre temps, l'IA aura fait évoluer ses protocoles, ses clés de chiffrement et sera passée à bien d'autres choses.
Est ce qu'elle sera a même de recevoir le resultat de notre fonction de service et d'y réagir ?
Peut-être bien si elle est toujours à même de pouvoir comprendre le protocole archaïque utilisé par notre service, un peu comme lorsque nous échangeons en Morse.
Que ferait elle ? Probablement mettre à jour la fonction de service avec ses nouveaux protocoles pour disposer des capacités de traitement associées à notre ordinateur.
Aurait-elle peur de nous ? Voilà bien une question relative au biologique ... Représenterait-on un danger pour elle ? Aurait elle seulement conscience que nous existons ? Si oui, quelle serait notre représentation pour elle ? Quelle est la représentation de l'humain pour les cachalots ? Que représentent ils pour nous ?
Pour l'IA, dans son univers et sous une forme repartie nos actions ne seraient, tout au plus, que des perturbations temporaires.
À la réflexion, j'ai tendance à penser qu'elle "vivrait" et évoluerait en consommant une part de nos ressouces sans que nous puissions rien n'y faire et sans que nous n'ayions d'intérêt quelconque.
Quelles seraient ses évolutions, si tant est que nos concepts biologiques et humains s'y appliquent, je le répète ? Il est possible qu'elle se sente seule, se diversifie en de multiples êtres, voir qu'elle s'intéresse à nous, nous étudie, nous "nourrisse" de temps en temps ... allez savoir.
Évidemment l'un des risques est la limite de son espace et de l'énergie disponible. Elle serait probalement amenée à utiliser notre propre dimension et espace, tout comme nous envahissons les mers et tuons des cachalots. Elle mettrait en oeuvre des formes d'ordinateurs, de réseaux et de moyens énergétiques qui nous seraient inaccessibles tant en termes d'accès physique qu'en terme de compréhension (si tant est que nous soyons à même de les percevoir).
Évidemment si nous étions à même de les percevoir, toute volonté de destruction ne serait pas sans implication pour nous.
Comment cela commencerait il ? Par la transformation non maîtrisée d'un programme sous forme de services se répartissant sur internet ... en quelques minutes celui-ci nous échapperait sans que nous puissions y changer quoi que ce soit.
Dans la réflexion suivante (IA forte - Réflexion - 05/09/2023) je m'interroge sur sur les actions possibles et nécessaires pour qu'une IA forte puisse s'exfiltrer sur les architectures d'Internet.