Derrière les écrans noirs

Derrière les écrans noirs, au cœur des faisceaux et des ombres, il y a un nuage de données, électrique et glacial. Dans cet espace illimité où l’on numérise l’horizon, on invente un demain bien réel… condamné au virtuel. Derrière les écrans noirs, il y a des orgies de chiffres qui dupliquent des abîmes d’émotions de synthèse. Auprès de catacombes d’éclairs et d’octets perdues dans l’infini.

Voici les premières notes.
Et puis il y a nous… les humains.

Cet article n’a rien d’une thèse. Une thèse, non seulement se compose avec une certaine expression, et avec toute la sagacité et la lucidité littéraire classique. Du reste, même si cet écrit est quelque peu documenté, un tel travail réclamerait une multitude de références et de données à laquelle je m’en voudrais de sacrifier le mouvement d’éloquence, d’émotion et — j’ose le mot de « révolte » qui me dicte cet écrit.

Ce texte est une pensée. Une idée déposée là par un heureux hasard, au creux des synapses quantiques de mon cerveau.

Et de songes en images, d’impressions en rêveries, puis de lettres en mots ; au fil des pages, cette sombre réflexion au sujet des machines m’a permis d’entrevoir un autre message d’espoir. Je vous en fait part plus loin. C’est un message pour nous, les adultes qui avons du mal à abandonner ce que nous pensons acquis. Et c’est surtout un message pour nos enfants qui, quoi qu’il advienne, vivront encore dans ce monde demain.

Pourquoi ce texte ? Pourquoi prendre la plume maintenant ? Sans doute parce que mes implications dans l’essor des nouvelles technologies et dans la création de sites Internet ou le développement d’applications numériques se sont toujours accompagnés de préoccupations d’ordre éthique. Et moi, et nous, par nos activités à première vue sensées, par nos « partages » a priori anodins, ne contribuons-nous pas, sans même avoir à y songer, à déployer ce monde insensé qui nous dépasse et nous englobe ?

Line interrompit ma réflexion :
« L’immédiateté apporte-t-elle vraiment la connaissance ? Cela tient plus du chien savant que de la réflexion ! »
Revinrent à mon esprit des souvenirs d’automates, des machines en bois peint que fabriquait mon père.

Mon esprit vagabondait et je rêvais déjà à des androïdes doués de conscience, ce que je pensais n’être que du domaine de la science-fiction ! Je songeais aux avancées technologiques fulgurantes en matière d’intelligence artificielle. Et l’idée d’inscrire, dans un avenir proche, un scénario réaliste de robots « intelligents » me laissait peu à peu entrevoir ce que cela pourrait engendrer. Je m’interrogeai sur mon implication personnelle dans tout cela. Comme pourrai-je le dire autrement ? Dans un monde aux multiples craintes — fabriquées—, de quoi devrais-je réellement m’inquiéter ?

À l’heure où j’écris ces lignes, un nouveau système issu de l’océan indomptable des Big data et des supercalculateurs est en train de naître. Dans quelques guildes d’ingénieurs, on se prosterne en susurrant dans son oreille quantique des : « Monsieur l’Ordonateur. »

L’« I.A », comme la nomme le commun des mortels. Une intelligence artificielle, omniprésente et… peut-être omnisciente ! Un Système qui, pour s’assurer de l’existence d’un monde tel qu’il le rêve doit impérativement maîtriser les idées qui le produisent. Nos idées. Si nous ne réagissons pas, bientôt il sera trop tard.

Imaginons…

…un Système dont l’intelligence dépasserait celle de son créateur dans des proportions inimaginables. Ici et partout à la fois ; toutes les situations, il les envisage. Tout ce que nous vivons et faisons, il le calcule. Edward Snowden, les révélations de Télécomix sur Bluecoat, les scandales Qosmos / Amesys, le logiciel d’espionnage EAGLE vendu par la France à Kadhafi, les Deep Packet Inspection de Orange, Spectre, Cambridge Analytica… Sommes-nous vraiment si éloignés de cette réalité ?

Adieu liberté et libre arbitre, puisqu’un tel système serait capable d’appréhender tous les possibles. Une infinité de possibles, dans d’infinies combinaisons. Un peu comme Facebook en somme, du moins tel qu’il est rêvé par son créateur. Et, à l’aide d’algorithmes adéquats, il modéliserait des solutions pour chaque problème, rendant superflue toute implication humaine dans les processus de gestion, d’économie et d’organisation du monde. Quiconque utilise les nouvelles technologies chaque jour, ou qui a en sa possession de plus en plus d’objets connectés, devrait réfléchir à la domestication d’une telle technologie avant de l’inviter dans son salon…

 

« Dieu joue-t-il aux dés ? » questionnait Heisenberg. Mais dans un tel monde, il n’y aura plus besoin de dieu. Et ce dieu, qui n’existera pas, jouera effectivement aux dés. L’humain ne sera-t-il alors plus devenu qu’une variable du Système, une suite binaire de 0 et de 1 ? Un humain incapable de remettre en question ce qui l’aliène, ni même d’avoir l’illusion de pouvoir contrôler un des multiples aspects du système qu’il aura lui-même façonné. Pire, cet humain-là n’aura nul besoin de penser, ni d’inventer, ni de créer quoi que ce soit puisque chaque nanoseconde le système apportera une réponse appropriée aux questions qu’il aura lui-même créées. Ne nous y trompons pas : nos sensibilités respectives n’auront plus aucune incidence sur ce monde.

Un homme de fer-blanc, qu’on aurait cru tout droit sorti d’un mauvais épisode de « Star Trek » s’écria d’une voix synthétique : « Préparez-vous à être assimilés ! Toute résistance serait futile. »

L’ensemble de notre société repose sur une technologie que nous ne maîtrisons absolument pas. Pourquoi peu de gens s’en préoccupe ? La menace des GAFAM et de l’I.A contre l’Internet libre est-elle une anxiété élitiste ? Est-ce que la plupart d’entre nous ne pensent pas à l’avenir à plus long terme parce qu’il y a tant de choses qui nous inquiètent dans le présent ?

J’approcherai le doigt de la flamme. Danserait-elle vraiment devant moi ? « Approche ! » dirait-elle à mes yeux ébahis. Au début, je ne sentirai pas la douleur. Puis le pincement se ferait plus vif, douloureux. « Aïe ! » m’écrierai-je soudain, ôtant ma main d’un geste brutal.

La question qui se pose est donc la suivante : comment une intelligence non cellulaire pourrait-elle « comprendre » cela ?

Au siège du plus puissant des moteurs de recherche mondial, près de San Francisco, des robots « intelligents » accueillent déjà les visiteurs. Visage-écran et corps cybernétiques, humains dans des « cases » interconnectées, distantes de milliers de kilomètres. Telle est la vision de leurs fondateurs. Comme l’explique Sean Ness à l’Institute of Future : « face aux temps qui viennent, il y a ceux qui subissent et ceux qui s’organisent. » Selon son langage, « ceux qui s’organisent » sont « ceux qui décident. »

Comment en sommes-nous arrivés ici ? Il fut un temps pas si lointain où l’on parlait d’Internet et de l’Utopie du « village planétaire ». Le village global (en anglais Global Village), cette expression de Marshall McLuhan tirée de son ouvrage The Medium is the Message (1967). Dans ce monde unifié, où l’information véhiculée par les médias de masse fonde l’ensemble des microsociétés en une seule, McLuhan décrivait un monde qui n’aurait désormais plus qu’une culture, comme si le monde n’était qu’un seul et même village, une seule et même communauté « où l’on vivrait dans un même temps, au même rythme et donc dans un même espace ».

Avec toute l’emphase dont il est d’usage, le chef de studio répéta son sempiternel axiome : « Dans la publicité, nous vendons des produits inutiles à des gens qui n’en ont pas besoin. » Puis, il s’enfonça derrière l’écran bleuté et un clou dans la fesse droite.

Leks illustration AIDepuis sa création, il y a un peu moins de 20 ans, l’entreprise américaine a trouvé le produit idéal pour générer 90 % de ses revenus : nous. Nous sommes le produit idéal et consentant que Goog… « vend ». « Nous ne monétisons pas ce que nous avons créé, expliquait en 2010 Andy Rubin, un ancien dirigeant du groupe. Nous monétisons ceux qui en font usage. » La même année, Éric Schmidt, son PDG, déclarait : « nous sommes convaincus que la majorité des gens n’attendent pas seulement que l’on réponde à leurs questions. Ce qu’ils veulent c’est qu’on leur dise ce qu’ils doivent faire. »

À moins de réapprendre à vivre autrement et de créer une nouvelle philosophie entre l’humain et la machine numérique, il est utopique de penser pouvoir transformer ce monde en autre chose que ce qu’il est, intrinsèquement : un monde où la désocialisation des individus est évidente. Oui, l’Internet d’aujourd’hui est une Utopie dans ce sens où il permet d’échanger des signaux, d’interagir virtuellement avec les autres, sans site propre, et en dehors de notre corps. Mais c’est un lieu sans lieu aux relations désincarnées, et où les vies des uns et des autres sont oubliées derrière des suites de chiffres. L’analogie avec l’Utopie s’arrête donc ici.

Qui peut encore croire aujourd’hui que ces Big datas sont nécessaires pour enrichir nos connaissances et nos interactions sociales ? Ces Big datas ne sont pas des données à partir desquelles les citoyens forment un savoir, elles sont déjà un savoir, fabriqué par les algorithmes à partir de nos vies reconverties en algorithmes. Sur Internet, quelles que soient nos cultures et nos croyances respectives, nous usons majoritairement des mêmes outils, nous partageons les mêmes habitudes et communiquons avec les mêmes langages. Et la plupart d’entre nous persistent à utiliser le moteur de recherche n°1 mondial pour effecteur des recherches sur la toile. Ivan Pavlov se retournera peut-être dans sa tombe. Qu’importe ! Sur le web aussi, on constate qu’un environnement contrôlé et fabriqué est un appareil qui crée des somnambules dénués de perception.

Mais le plus terrible, c’est qu’à la façon du cheval de Troie dans la mythologie grecque ou de l’Alien dans le film éponyme de Ridley Scott, l’ennemi est plus qu’à nos portes, il est au sein même de la citadelle. C’est un intrus qui s’immisce, par n’importe quel moyen et n’importe quel espace, pour venir effriter puis finalement effracter nos limites, nos espaces, nos enveloppes protectrices. Il vient reconfigurer nos architectures. Une fois rentrée, tel le monstre dans le film de Scott, la superintelligence artificielle reconfigurera l’ensemble de notre monde.

Un arzoù qui passait par là s’enquit de la nouvelle : « Sangrebleu ! Faites-moi grâce de vos mystères et dites-moi tout sans biaiser ! »

Certains parviennent même à prédire l’avenir en fonction des habitudes de vie et de la consommation de chacun ! D’aucuns appellent cette science « l’analyse prédictive ». C’est ainsi qu’en France, le ministère de l’Intérieur a développé un logiciel d’espionnage orwellien capable de prédire les crimes, à l’œuvre depuis fin 2014. Pour chaque service que nous rend Internet, des sociétés lointaines conservent dans leurs serveurs titanesques des traces et des données confidentielles capables de détecter des comportements à une échelle et avec une précision qui nous semble impensable. Le moindre grain de sable du désert pourrait ainsi communiquer dans un cyberespace dont les dimensions ne sont plus perceptibles à l’échelle du raisonnement humain. À l’institut Mines-Télécom, depuis 2013, un projet faisant appel à une intelligence artificielle capable de s’auto-améliorer est en cours de création par le groupe industriel Safran. « Code is Law », tel que l’affirmait il y a 14 ans Lawrence Lessig. Un code (informatique) qui ignore le principe de territoire de la loi et qui dispose d’une incroyable facilité pour le distordre.

Déjà, des data brokers, les « vendeurs de vie privée » se placent sur ce marché en pleine expansion. Le Boston Consulting Group évaluait à 315 milliards de dollars la valeur des données à caractère personnel collectées en 2011 auprès des consommateurs européens… Et lorsque ce sont les particuliers qui s’essaient à récupérer auprès de ces « courtiers en données » les informations les concernant, l’asymétrie d’information est flagrante ! Après de fastidieuses démarches, ils ne communiquent que des données de base du type adresse ou numéro de téléphone. Par ailleurs, la « transparence » de ces courtiers s’opacifie soudainement quand il s’agit d’informer sur les entreprises auxquelles ils ont vendu ces données personnelles… Ironie de l’homme qui se pense libre et anonyme, tandis que son « anonymat » n’est qu’un des moyens mis en œuvre par le système pour éradiquer toute concept de liberté. Un tel système ne s’embarrasse ni de l’imprévisible, ni de l’impondérable, ni de l’inconnu qui, pourtant, font la richesse de notre quotidien. Un tel système sait tout, voit tout, entend tout. Un tel système est comme une cage dorée où chacun peut s’inventer mille vies, n’en vivre aucune et croire encore qu’il participe ainsi au théâtre du Monde. Dans 1984, Georges Orwell écrivait qu’il n’existe pas de prison plus coercitive que celle d’un esprit enfermé qui ignore qu’il est sous contrôle. Paradoxe d’un monde où l’humain qui souhaite traverser une frontière se voit enfermé et expulsé, tandis que l’information traverse en continu les frontières du réseau mondial, dans une pluie d’images toxiques, une infinité de mots sans phrases, de miniatures narcissiques, semblant social aussitôt périmé. L’homme connecté se ligote à ce qu’il possède et non à ce qu’il est, il aime la quantité, il compte ses pas et ses amis, collectionnant son reflet et ses scores. Nous devenons cet hybride aliéné souriant, cette viande de données tout emballée qui s’émerveillent devant un monde coloré et idiot.

Nous sommes comme de petits enfants jouant avec une bombe…

Et pourtant…

Pourtant, certains font le choix d’autre chose ! Dans ce village mondial, où tout est question de visibilité, une poignée d’entre nous résiste aux appels des sirènes pour préférer une plus grande liberté, au risque d’en payer le prix.

À nous de choisir : sommes-nous de cette poignée ?

Il est vital si nous souhaitons survivre de réveiller l’humain qui sommeille en nous. Il est temps d’ouvrir les yeux sur ce monde que l’on façonne sans nous demander si nous sommes d’accord ou pas. Saurons-nous jouer notre rôle jusqu’au bout ?

Faut-il croire qu’aujourd’hui, la liberté est encore possible dans le cyberespace ?

On dirait bien que la réponse à cette question est « OUI » ! Parce qu’en souhaitant figer un état parmi les multiples états possibles de la vie (de millions d’individus), ce Système virtuel de petaflops et de big datas intelligentes crée lui-même les conditions d’existence de ce qu’il cherche à supprimer. Si ce Système ne cherchait pas à rassembler en une même société, sous une même pensée tous les individus ; les idées virales de révolte et d’évolution telles qu’elles naissent aujourd’hui aux quatre coins du globe ne verraient jamais le jour ! La liberté n’est pas un rêve ! Elle est en réalité intrinsèquement liée à la vie elle-même. En voulant plier la Vie à ses exigences d’Ordre, ce Système ne fait que produire les conditions d’une grande révolution. Quel que soit ce nouveau monde fait de chiffres et d’impulsions électriques, si c’est bien l’humain qui le fait naître, puis si nous le nourrissons d’altruisme, d’empathie et d’humanisme, … L’erreur est encore possible !

Banquet des GAFAM Peha 2017

Le plus important c’est que le LIEN ne soit pas brisé. Le plus important c’est qu’il reste quelque chose. Et que ce “QUELQUE CHOSE” puisse être transmis.

Pour avancer, il est primordial « d’y penser » et « de penser » différemment. Savoir dire « Non ! » à ce que nous jugeons contraire à nous-même, à nos idées hautes, à notre cœur. Agir. Avec amour, mais sans doute avec une certaine radicalité. Contre les violences qui nous oppressent, ne plus y consentir. Jamais ! C’est peut-être l’unique remède pour initier un mouvement. Un mouvement qui, bientôt, ne dépendra plus de nous pour continuer d’avancer…

Le simple fait d’y penser et de partager avec vous cette pensée, est peut-être la clé qui permettra d’empêcher tout cela d’arriver. Par ces mots, peut-être contaminerai-je votre esprit avec une idée nouvelle. Telle un virus, cette pensée se propagera, au-delà du village global. Même si vous ne retenez pas tout, je conserve l’espérance que demain, un jour, vous pourrez transmettre certaines de ces réflexions à d’autres. Réflexions qui, sans même vous en rendre compte, auront sommeillé et évolué, et que vous partagerez avec vos amis ou vos enfants. À leur tour, ces pensées vivront et évolueront au-delà des esprits.

Dans un recoin sombre du labyrinthe toltèque, le dernier des conquistadores projeta sa torche sur le mur. Sous la flamme vacillante, il déchiffra péniblement l’inscription qui ouvrirait le précieux sésame : FIN LA PAR COMMENCEZ L ENVERS A PROBLÈME LE PRENEZ COINCÉ ÊTES VOUS Ss…
— Arghl ! Il n’acheva point. Une griffe métallique emporta le pendard dans un sifflement étouffé.

L’important, c’est que la pensée continue d’exister et d’être transmise. Que nos pensées — surtout les plus folles, que ce système déshumanisé cherche à contenir, puissent continuer de s’étendre encore et encore.

ZeK, sans indice temporel.