TECH & IT : Une source de problèmes ou de solutions pour un monde meilleur ?

Si les techno-utopistes sont persuadés qu'il y a une réponse technologique à tous nos problèmes, la science et la technologie sont aussi parfois sources de risques, dangers et désagréments...

1. La technologie est un désastre écologique

Il y a 13 ans déjà, Bill Gates dans un Ted Talk très concret, nous mettait déjà en garde. Plus la population mondiale est nombreuse et plus son niveau de vie augmente, plus notre consommation énergétique et notre empreinte carbone empire. Cette dernière entrainant alors un réchauffement de la température de la planète et de nombreuses conséquences néfastes : montée des eaux, fontes des glaces, sécheresses, ouragans,.... Pour lui il ne fallait rien de loins qu'un miracle énergétique car même les énergies alternatives sont totalement insuffisantes à répondre à nos besoins : toutes les batteries mondiales ne pourraient ainsi stocker que 10 minutes des besoins mondiaux en électricité!

La part de la tech dans notre empreinte carbone n'est en fait pas si grande (2% aujourd’hui d'après un rapport du Sénat) mais elle augmente très vite avec l'explosion des usages et appareils numériques.

En 2040, si rien n'est fait, le numérique pourrait représenter près de 7% des émissions des GES françaises ! Si la consommation liée à l'usage est limitée, 80% de l’empreinte carbone du numérique français est émise à l'étranger (fabrication des terminaux, centres de données 70% servant aux usages français). La tech dépend donc d'industries extractivistes et manufacturières polluantes et pas toujours éthiques en termes de droit du travail.

Heureusement que la pression des consommateurs, des régulateurs, et des marchés (pression sur la rentabilité) va forcer la tech à devenir plus vertueuse.

2. Cybersécurité et fiabilité

Notre dépendance personnelle et professionnelle croissante à la tech (souvent étrangère) entraîne un risque croissant en matière de cybersécurité. Face à une explosion du piratage, des ransomware, des bugs, des fuites de données… faut-il s'attendre à un monde de chaos & de douleur ? Les conséquences d'une cyber-attaque peuvent être catastrophique pour une entreprise, une usine ou même un service public comme les hôpitaux. Pour rappel, le temps moyen de réponse à une cyber-attaque est d’environ 21,3 heures en France. Mais bien des entreprises ne réalisent qu'elles ont été attaquées que bien longtemps après ou même jamais. D'autres n'ont aucun autre choix que de payer des cyber rançons.

Et demain avec les smart city, l'Internet des Objets, les véhicules autonomes, la livraison par drone, le computer vision,.... les risques pourraient être bien plus terribles pour la vie des gens, la sécurité des biens et nos démocraties.

Comme dans cette vidéo de mise en garde prospective, imaginez le détournement d'un essaim de drones tueurs à l'heure de la reconnaissance biométrique :

Une prise de conscience de tous et une mise à niveau de la régulation et des pratiques est indispensable avant une multiplication des drames. Les USA sont par exemple en train de changer la loi pour rendre les plateformes et entreprises responsables en cas de manquements avérés sur la cybersécurité, ce qui va bien au-delà de notre RGPD.

3. Oligopoles technologiques et abus de pouvoir

Alors que la Chine semblent avoir mis au pas ses géants technologiques, les GAFA semblent toujours plus puissants aux USA comme dans le reste du monde. Certes les assignations devant le congrès ou les amendes se multiplient, en particuliers en Europe pour tenter de limiter certains abus de position dominante, mais les montants rapportés au CA global ressemblent plus à une petite tape sur les doigts.

Tout comme le secteur bancaire, les géants digitaux semblent être devenus "too big to fail", et bien compliqués à ralentir, au regard de leur capitalisation et de leurs budgets R&D ou de M&A sans limites. Face à cet état de fait, on peut craindre pour le respect d'une saine concurrence, garantie de choix et de protection des clients B2B ou B2C. Les états mêmes sont de plus en plus dépendants et voient leur souveraineté bien mis à mal en termes de numérique. En Europe bien peu de ministères ou d'administrations peuvent se passer de AWS d'Amazon ou Azure de Microsoft, et des suites logicielles d'éditeurs américains. Et la demande de pause de 6 mois sur l'IA ressemble beaucoup à une tentative des concurrents de OpenAI pour essayer de récupérer leur retard... face à une avance qui peut vite signer un phénomène de "winner takes all"...

4. L'ère de la surveillance, fin de la vie privée & censure

Avec notre monde connecté, tout est data ou même Big Data! Pour nous offrir des services toujours plus intelligents et personnalisées, les sites web, applications et plateformes aspirent toujours plus nos données personnelles.

Les consommateurs commencent à prendre conscience de cet usage toujours plus gourmand et rarement très transparent malgré le garde fou du RGPD. Ce tracking exponentiel signifie une intrusion croissante dans notre intimité, sans consentement toujours très volontaire, quand il n'est pas imposé ou obligatoire pour pouvoir consulter une page web, un lien, un produit, un service…

Selon un rapport 2022 Future of Privacy-First Advertising d'Integral Ad Science (IAS), spécialisé dans la qualité des médias numériques, 67% des consommateurs se disent vigilants quant à leurs données en ligne et à leur vie privée. Mais une grande partie n'a ni le temps, ni l'envoi ou les compétences pour réellement consulter ou valider les politiques de confidentialité ou les pratiques des acteurs digitaux. Quand on voit "l'autoritarisme numérique" d'un pays comme la Chine où le social score conditionne vos libertés d'accéder à un job, à telle école pour vos enfants où à la possibilité de prendre le train ou l'avion, on ne peut que penser à la série dystopique Black Mirror et les dérives d'une "algocratie". TikTok et sa maison ByteDance sont d'ailleurs sous les projecteurs après une interdiction pour les employés de la Commission Européenne ou après une audition au Sénat US.

European Commission ordered their employees to remove TikTok from their devices, including private ones. Will @Europarl_EN and @EU_EDPS follow suit? Or pretend that it’s not their problem? Huge data protection concerns. https://t.co/8UujOkS2sS pic.twitter.com/vQXIznO0M4

— Lukasz Olejnik (@[email protected]) (@lukOlejnik) February 23, 2023

Paradoxal quand on connait le scandale dévoilé par Snowden autour des écoutes de la NSA envers mêmes les alliés des Etats-Unis. Tous connectés, tous espionnés... Du danger de la Big Tech à celui du Big Gov, le Big Brother de 1984 semble devenir chaque jour un peu plus une réalité!

Dans un rapport de Carnegie Endowment for International Peace, “un nombre croissant d’États déploient des outils de surveillance avancés basés sur l’IA pour contrôler, suivre et surveiller les citoyens afin de satisfaire toute une série d’objectifs politiques — certains légaux, d’autres qui violent les droits humains, et beaucoup d’autres encore qui se situent dans une zone trouble intermédiaire”.

L'entreprise Israélienne NSO a ainsi fait l'objet d'un bad buzz pour les outils de piratage qu'il développe et que plusieurs États américains ont utilisés visant à espionner des dissidents politiques, des militants des droits de l'homme et des journalistes. La Chine n'est donc pas la seule à être accusée, les USA sont en faute pour avoir signé un contrat avec NSO tout en condamnant publiquement le spyware.

Mais on peut en imaginer autant des services secrets des différents pays...

5. Illectronisme & Inégalités

Le succès massif du numérique pourrait laisser penser que tout le monde est internaute, sauf que la réalité est bien différente. Comme l'analphabétisme, à l'ère de la technologie, on parle d'illectronisme. Une expression qui est apparue en 2000 pour décrire la difficulté à utiliser Internet dans la vie de tous les jours. 

Malgré l'essor technologique généré post-COVID, environ 37% de la population mondiale, soit 2,9 milliards de personnes, n'ont jamais utilisé Internet auparavant, estime une agence des Nations Unies pour les technologies de l'information et de la communication. Et comme dans toute situation de déséquilibre, ce sont les plus pauvres qui sont souvent les laissés pour compte.

Les inégalités affectent également différemment les tranches d'âge. Une enquête du Pew Research Center de 2021 montre qu'aux États-Unis, par exemple, 7% des adultes n'ont toujours pas accès à Internet. C'est principalement le cas de ceux qui vivent dans des zones rurales ou dans des centres urbains mais qui ont un faible niveau d'éducation, gagnent relativement moins de revenus et s'identifient comme afro-américains ou hispaniques. 

Les villes sont-elles prêtes à devenir des "smart cities" ou villes intelligentes alors qu'une bonne partie de leurs habitants n'ont pas encore accès à internet ?

Plus encore, il est nécessaire de prendre en considération l'inclusion des personnes âgées dans l'adoption des nouvelles technologies. C'est la génération qui n'a pas grandi avec la technologie mais qui l’a subi à un âge avancé. D’autant plus que l'intelligence artificielle, les technologies de la santé et les systèmes de suivi et de surveillance, entre autres, sont de plus en plus intégrés dans leur vie quotidienne.

La Co-conception pourrait être une des solutions pour inclure cette tranche d'âge. Il s'agit ici d'organiser des ateliers de co-création qui permettent aux seniors d'exprimer leurs besoins et les freins à l'emploi de la tech, pour aider les experts du secteur à développer des solutions adaptées aux seniors.

La technologie semble parfois en roue libre. Ce qui rend encore plus difficile de se démarquer dans un marché, où les “geeks” de la tech règnent en maître, comme l'a constaté Andrew McAfee, expert reconnu en conduite du changement, auteur et chercheur au MIT. Pour exceller dans un tel environnement, il faut être plus “geek” que les geeks. Bienvenue dans une technocratie.

6. Complotisme, Enragement, Fake news, Deepfake

On le sait, les réseaux sociaux fonctionnent selon un algorithme qui prend en compte l'activité d'une personne sur une plateforme pour lui proposer un contenu adapté à ses centres d'intérêt. Cette personnalisation du contenu poussée à l'extrême, peut enfermer un individu dans une bulle informationnelle, notamment vis-à-vis de ses opinions politiques. Une bulle qui peut mener au radicalisme ou au complotisme...

A l'ère des plateformes sociales, qui endossent le rôle du journaliste? Quand n'importe qui peut raconter n'importe quoi en quelques clics, on rend dans un monde de la post vérité, où tout peut être deepfake photo, texte, audio ou vidéo.

"Si c'est sur Internet, ça doit être vrai." Cette citation a fait l’objet d’une campagne de sensibilisation aux fake news.

7. Addiction, solitude, trolling, harcèlement

Plusieurs études universitaires de renom associent l'anxiété et la dépression chez les adolescents au temps passé devant un écran et sur les réseaux sociaux.

Leurs algorithmes sont conçus pour inciter les utilisateurs à passer de plus en plus de temps dessus. TikTok, qui est à la tête de ce système, est fréquemment accusé de proposer des contenus parfois "problématiques" suivant un algorithme en boucle qui s'ajuste à l'activité des utilisateurs et donc le positionne uniquement sur des contenus biaisés. Difficile de sortir de cette boucle, quand elle stimule l'envie d'en voir encore plus, ce qui met l’utilisateur dans un isolement parfois total, insouciant du monde actuel depuis lequel il consulte le monde numérique. Un isolement qui peut mener à la solitude. 

Une étude a révélé que les adolescents d'aujourd'hui passent environ une heure de moins par jour à socialiser avec leurs pairs que les adolescents qui ont grandi dans les années 1980 et 1990. Ils ont au final beaucoup moins d'amis qu'il y a 30 ans! Plus on est connecté et plus on semble seul!

Ajoutez à cela les cyber-harcèlements qui se multiplient sur les réseaux sociaux, où tout le monde se donne le droit de dire tout et n'importe quoi. Être derrière un écran facilite les choses, beaucoup se protègent sous des surnoms inconnus pour harceler sans dévoiler leur identité. En 2021, 20% des enfants et adolescents (6-18 ans) étaient concernés par le cyberharcèlement. En 2022, c'est la tranche d'âge suivante qui occupe la première place avec 60% des jeunes de 18-25 ans qui ont déjà été victimes de ce type de violence en ligne.

Il y a aussi le FOMO (Fear Of Missing Out), cette peur de passer à côté suscitée par l'immédiateté à laquelle les adolescents sont aujourd'hui habitués ou l'envie liée à l'image falsifiée que plusieurs influenceurs vendent sur leurs comptes. 

8. Dysmorphophobie, Dark patterns, infobésité

Notre rapport exacerbé à l'image et à notre représentation avec l'usage exponentiel des selfies et des media sociaux peut amener à des dérives très concrètes, en particulier pour les adolescents. Plus les images sont mises en scène, retouchées ou mêmes améliorées en temps réel avec les filtres en Réalité Augmentée sur Snapchat, Instagram ou TikTok, et plus la perfection devient la règle.

Beaucoup de jeunes femmes sont alors victimes de cette image falsifiée. Les cabinets de chirurgie esthétique sont sursollicités pour des demandes d'opérations afin de ressembler aux visages irréalistes des plateformes. Dove s'est d'ailleurs mobilisé pour alerter sur l'impact des conseils beauté souvent dangereux sur les media sociaux :

La marque a aussi lancé une autre campagne pour alerter sur les risques de dysmorphophobie liés aux retouches et aux filtres.

Cette pensée obsédante sur un défaut imaginaire ou une légère imperfection de l'apparence physique entrainera une préoccupation démesurée et souvent une anxiété, un manque d'amour propre et parfois une dépression :

Certaines applications n'hésitent pas à avoir recours aux "Dark Patterns". Ils s'agit ici d'utiliser des tactiques pour manipuler les utilisateurs et influencer leurs choix concernant le partage de leurs données personnelles. La CEPD identifie 6 différentes techniques qui trompent l’internaute à partager ses données involontairement mais avec son consentement. 

Le “Overloading” par exemple, consiste à occuper l'internaute par une quantité importante de requêtes, d'informations ou d'options pour qu'il renonce et éventuellement et accepte les cookies, cherchant à se décharger des informations à lire.

On voit très bien sur la photo comment Amazon affiche le bouton d'abonnement de manière très flagrante, quand on remarque à peine celui qui permet au visiteur de continuer sa navigation sans abonnement.

Face à ce déluge d'informations, de contenus, de disruptions, de signaux parfois contradictoires, d'infox, l'internaute se sent de plus en plus submergé et dépassé, victime d'infobésité.

9. Une menace pour l'emploi?

Derrière son impact opérationnel, la tech et l'IA permettent un impact financier positif sur les entreprises. Selon son rapport Infosys DATA+AI Radar 2022, une stratégie d'IA efficace peut aider les entreprises à augmenter collectivement leurs bénéfices jusqu'à 467 milliards de dollars. Cette stratégie repose sur 3 conditions : 

• Alors que 75% des entreprises hésitent à partager des données, l'étude note que celles qui partagent et actualisent leurs données sont plus susceptibles d’augmenter leurs revenus
• Exploiter de manière efficace le potentiel de l’IA au travers d'équipes dédiées de Data Scientists permet des répercussions positives sur la satisfaction client
• Alimenter les IA par des pratiques éthiques pour éviter des biais problématiques

Mais ce bénéfice de productivité se fait-il au bénéfice de l'humain et des emplois?

Si certaines technologies augmentent le travailleur avec des super pouvoirs, d'autres permettent plutôt de remplacer rapidement les humains, non seulement sur des tâches mais sur des métiers entiers, grâce à leur rapidité, leur facilité de déploiement, leurs coûts, leurs rentabilités à long terme, etc.

D'après Goldman Sachs, 300 millions de jobs pourraient être affectés par l'IA 🤯

Une lueur d'espoir? Lorsqu'on lui a demandé quels emplois pourraient disparaître avec l'émergence des technologies de l'IA, ChatGPT a répondu par une liste non exhaustive mais a terminé sa réponse par, et je cite :

“Cependant, il est important de noter que l'automatisation et l'IA peuvent également créer de nouveaux emplois dans des domaines tels que le développement et la maintenance de ces technologies. En outre, de nombreux emplois nécessitent des compétences telles que la créativité, la pensée critique et l'empathie, qui sont difficiles à automatiser et qui resteront probablement entre les mains des travailleurs humains.”

10. Gig economy, stress, précarité

La gig economy ou économie par tâche, nous rappelle le retour du journalier, ouvrier agricole payé à la journée. Mais ici il s'agit de la version hightech avec Uber ou Deliveroo. Pas étonnant qu'on parle d'“Uberisation de l’économie” pour désigner toute entreprise qui adopte cette approche qui donne le bon rôle à l'auto entrepreneur qui doit se payer sa propre assurance, son chômage,...

Ce marché en croissance rapide devrait atteindre 83 milliards d'euros en Europe d'ici 2025, mais il n'est pas sans poser de nombreux problèmes. Bien que les employés bénéficient de plus de flexibilité et de souplesse pour jongler entre leur travail et leur vie privée, ils sont professionnellement précaires : susceptibles d'être licenciés facilement voir "désactivés", leur salaire dépend du nombre de missions qu'ils effectuent, les rémunérations peuvent être revues subitement et unilatéralement,..

De nombreuses grandes entreprises s'inspirent de ces acteurs pour gagner en agilité en embauchant des freelances, des intérimaires.... Et de nouveaux acteurs issus de la Gig Economy viennent disrupter les acteurs établis historiques. Comme c’est le cas de Protranslate, l’agence de traduction professionnelle en ligne 

Et vous? Seriez-vous ok pour avoir un boss comme algorithme?

C'est pourtant déjà le cas pour plus de 82 millions de chauffeurs de VTC ou pour les livreurs de Deliveroo,... Pas de manager ou de DRH, c'est une app qui vous briefe, définit vos cadences, et votre rémunération!

La tech elle-même possède son "lumpenprolétariat". Les plateformes "social media" outsourcent ainsi à des community managers sous payés la modération de certains contenus. Ceux-ci sont alors exposés de manière répétée à des contenus violents, choquants... Et certaines IA ont payé des travailleurs du tiers monde pour entraîner leurs algorithmes.

D'autres travailleurs de la tech sont parfois sous pression lors de lancement d'une nouvelle version d'un logiciel. On se rappelle ainsi de la photo d'une employée de Twitter qui campait au bureau pour faire face à la charge suite au rachat par Elon Musk. Cela n'aura pas suffit car elle a fait partie de la charrette suivante 😭.

La précarité numérique impacte également les conditions de travail de certains travailleurs. Post-COVID, le monde a subi une transformation numérique accélérée sans toujours y avoir été préparé. Ce qui a pu être facile pour certains ne l'a pas été pour beaucoup, notamment dans les métiers éloignés du numérique, qui sont encore en retard en matière de savoir-faire digital.

On peut penser que cette forme de précarité touche surtout les plus âgés, sauf que selon les chiffres du rapport d’activité 2021 d'Emmaüs Connect, les 65 et + représentent seulement 12% du public accompagné, pas beaucoup plus élevé que pour les 16-24 ans (8%). 

En effet, pour Michel Kinavuidi “les jeunes sont à l’aise pour faire des stories ou jouer en ligne, mais beaucoup moins pour les démarches administratives ou la recherche d’emploi”.

11. Souveraineté et dépendance économique

Les États-Unis et la Chine se battent pour le pouvoir mondial en misant sur la technologie, l'argent et la Data/IA. Et l’Europe dans tout ça ? Le vieux continent se fraye tant bien que mal un chemin vers sa souveraineté économique, industrielle et technologique, mais semble parfois plus obnubilé par la régulation.

L'Europe est néanmoins encore très dépendante des technologies et plateformes étrangères. Ne serait-ce que pour les 92% de données du monde occidental qui sont gérées par des entités contrôlées par les États-Unis. Une menace pour le partage des données européennes, même avec la RGPD qui n'est pas effective dans ce pays nord-américain. Ce qui contredit la promesse de la réglementation “de ne pas transférer les données personnelles de l'UE vers des pays qui n’offrent pas une protection adéquate”.

Mais quelques années plus tard, la mise en garde de Laurent Alexandre sur le risque que l'Europe devienne une colonie numérique des GAFA, semble toujours aussi actuelle!

La guerre entre les géants de la technologie ne se limite pas à une guerre numérique. Les nations sont aussi de la partie. Ces dernières profitent de l'importance de leur souveraineté technologique pour faire pression sur d'autres pays via des interdictions, des accords, des blocages, … L'Inde interdit près de 60 applications chinoises, dont TikTok et WeChat, Apple prévoit de déplacer la production hors de Chine, etc. pour ne citer que quelques-uns. 

Plusieurs États utilisent également des technologies pour limiter l'accès de leurs citoyens à Internet, comme c'est le cas en Russie. De nouveaux systèmes à base d'intelligence artificielle sont déployés pour automatiser le contrôle des publications interdites en ligne. Ajoutez à cela le blocage des services de plusieurs plateformes numériques telles que Netflix et Apple. Ce qui pousse les Russes à se tourner vers le dark web ou à utiliser un VPN pour espérer accéder à une information un minimum libre.

12. Biais, boîte noire, absence de contrôle démocratique et d'éthique

A l'heure de la transformation digitale qui fait bouger les lignes sur une majorité de sujets, l'IA apparaît comme la solution tant attendue à des besoins qui à une époque n'existaient pas. Autant d'espoirs accompagnés d'inquiétudes. Notamment autour de la transparence du fonctionnement de ces algorithmes. 

Selon un rapport d'InRule Technology, 66% des 350 décideurs américains interrogés, l'intelligence artificielle et l'apprentissage automatique jouent un rôle important dans la prise de décision numérique. En revanche, son adoption pose des limites telles que l'incapacité d'atteindre des objectifs commerciaux éthiques.

Cette problématique ne semble pas ralentir les entreprises. Un rapport publié par IBM, le Global AI Adoption Index 2022 fournit des informations sur l'adoption globale de l'IA dans les principales régions économiques. L'étude montre une croissance de 4 points sur ce marché par rapport à 2021. Aujourd'hui, 35% des entreprises dans le monde utilisent l'IA. Mais peu ont fait des investissements tangibles pour garantir la confiance ou lutter contre les biais.

L'excellent ouvrage "Invisible Women" nous rappelle ainsi que bon nombre de mesures standard sont ainsi basées sur un individu moyen qui est souvent un homme, entraînant des conséquences catastrophiques pour les femmes. Celles-ci sont ainsi bien plus susceptibles de mourir ou d'être blessées dans un accident de voiture car les systèmes de sécurité restent centrés sur un gabarit masculin.

Une IA en machine learning sur un service de recrutement qui s'inspire des pratiques des années passées sur la sélection de CV pourrait devenir aussi raciste ou sexiste que les pratiques en cours lors de ces années! Attention donc aux biais éventuels des algorithmes ou des données qui auront été utilisées pour les entraîner. Garbage in, garbage out!

La question éthique se joue aussi sur des sujets plus sensibles comme en biotech et notamment sur la pratique de la génomique. L'utilisation de la technologie dans le secteur médical présente d'énormes avantages, mais nécessite dans certains cas des pratiques qui peuvent être contraires à l'éthique : organismes transgéniques, eugénisme, OGM, manipulations génétiques, implantation numérique dans le corps humain, bioprinting...

Quels sont les risques à venir ? La biotechnologie se développe rapidement. Il est crucial d’accompagner ce développement avec des processus flexibles pour élaborer des normes et des règles de gouvernance. Un autre aspect qui peut également ralentir les progrès et la gouvernance de la biotechnologie est la désinformation, qui s'est intensifiée pendant le COVID au sujet de la vaccination et de l'origine du virus.

Evidemment si les risques, limites et dangers de la tech sont nombreux.... il en va de même pour les bénéfices... Rendez-vous donc la semaine prochaine pour découvrir les forces de la #TechforGood dans notre prochaine newsletter !

Envie d'aller plus loin? 👉 Demandez une keynote ou une formation sur l'IT responsable