Logo de la startup Que faut-il craindre de I'IA ?

Que faut-il craindre de I'IA ?

#blog Dernière mise à jour : 07/02/2025, publié le : 04/02/2025

update 2 : les fake news
Grâce à l’IA générative, n’importe qui peut produire un faux, que ce soit un article de presse qui reprend le style d’un communiqué officiel, une image trafiquée, ou même une vidéo plus vraie que nature. Il est très facile avec un peu jugeote et beaucoup de RAM de produire n’importe quel média.
Le risque pour tout à chacun est réel : https://www.sciencepresse.qc.ca/actualite/2020/09/15/impacts-desinformation
Et quand à l’impact financier, rappelons-nous de l’impact des rumeurs à propos de la mort de Steve Jobs sur le cour d’Apple
Si vous souhaitez découvrir l’ampleur des dégâts, le site NewsGuard récense les fake-news générées par IA !
Nous recommandons deux articles sur ce sujet :
Le premier est rédigé par Jean Marc Manhack : https://next.ink/153613/enquete-plus-de-1-000-medias-en-francais-generes-par-ia-polluent-le-web-et-google/
Le second est publié par La Revue des Média de l’INA : https://larevuedesmedias.ina.fr/intelligence-artificielle-ia-medias-journalisme-cartographie-enjeux-usages

Update 1: OpenAI a annoncé un partenariat avec un ensemble de laboratoires publics américains, dont celui en charge de la gestion du stock d’armement nucléaire.
Tous les détails en anglais : https://futurism.com/openai-signs-deal-us-government-nuclear-weapon-security

Tout le monde fantasme d’avoir un agent qui fait son travail à sa place, un robot qui prépare l’apéro avant de rentrer chez soit le soir et certain.e.s avec qui faire l’amour !

La question de la peur de l’IA qui a pris un tournant avec l’arrivée de ChatGPT est d’une part normale car cela nous projette dans un changement vers l’inconnu.

En revanche, il serait bon de définir l’IA telle qu’elle est : un outil.
Au même titre que vous pouvez causer du mal avec une petite cuillère, nous nous causerons du mal avec l’IA.
La responsabilité reste à l’humain, celui qui a créé l’IA, mais aussi et surtout à celui qui l’utilise.

Les exemples où l’intelligence artificielle a déconné sont multiples :

– En 2010, le Flash Crach. En 10 minutes, le Dow Jones a perdu 10% de sa valeur à cause d’un emballement des algorithmes des traders.

– En 2018 Amazon a annoncé abandonner son outil d’aide au recrutement car ce dernier avait été entrainé sur la base historique et avait tendance à discriminer les femmes.

– L’outil Compas utilisé par la justice américaine pour déterminer la probabilité de récidive d’un détenu a montrer un biais sur la couleur de peau.

– Dans le scandale Cambridge Analytica, le machine learning a joué un rôle prépondérant dans le traitement de la donnée pour faciliter ensuite des élections.

– Les systèmes de conduite autonomes sont régulièrement mis en cause dans des accidents de voitures.

Au fur et à mesure que nous ferons entrer l’IA dans nos vies, nous rencontrerons des déboires, voire même des maxi problèmes. Si vous utilisez une cafetière intelligente, vous risquez d’avoir un café trop chaud, ou trop froid ou pas de café du tout.
Si vous laissez l’IA contrôler le véhicule dans lequel vous vous trouvez, vous risquer d’avoir un accident…

En revanche, il existe un risque qui nous menace tous : Le chômage !
L’IA et ses Agents sont un outil formidable pour améliorer la productivité. Donner une IA bien formée à une équipe de 5 salariés. Grâce à l’IA, au bout de 6 mois, un seul salarié suffira à faire le boulot de toute l’équipe.
La question est : qui paiera le salaire des 3 ou 4 nous chômeurs :)

En attendant de donner l’accès au code nucléaire à ChatGPT, il est possible que la prochaine catastrophe soit beaucoup plus sociale et beaucoup plus proche !

A bientôt,
On se retrouve après notre CAP électricien/boulanger.