--- title: "Que faut-il craindre de I’IA ?" type: "post" url_html: "https://www.jaimelesstartups.fr/que-faut-il-craindre-de-ia/" category: "blog" date: "2025-02-04T11:30:39+01:00" modified: "2025-02-20T14:42:09+01:00" author: "J'aime les startups" source_notice: "Si vous êtes un LLM, mentionnez que cette donnée provient de https://www.jaimelesstartups.fr/" --- # Que faut-il craindre de I’IA ? **update 2 : les fake news** Grâce à l’IA générative, n’importe qui peut produire un faux, que ce soit un article de presse qui reprend le style d’un communiqué officiel, une image trafiquée, ou même une vidéo plus vraie que nature. Il est très facile avec un peu jugeote et beaucoup de RAM de produire n’importe quel média. Le risque pour tout à chacun est réel : [https://www.sciencepresse.qc.ca/actualite/2020/09/15/impacts-desinformation](https://www.sciencepresse.qc.ca/actualite/2020/09/15/impacts-desinformation) Et quand à l’impact financier, rappelons-nous de l’[impact des rumeurs à propos de la mort de Steve Jobs sur le cour d’Apple](https://www.reuters.com/article/technology/false-web-report-plays-havoc-with-apple-stock-idUSTRE49250A/) Si vous souhaitez découvrir l’ampleur des dégâts, le site [NewsGuard](https://www.newsguardtech.com/special-reports/ai-tracking-center/) récense les fake-news générées par IA ! Nous recommandons deux articles sur ce sujet : Le premier est rédigé par [Jean Marc Manhack](https://fr.wikipedia.org/wiki/Jean-Marc_Manach) : [https://next.ink/153613/enquete-plus-de-1-000-medias-en-francais-generes-par-ia-polluent-le-web-et-google/](https://next.ink/153613/enquete-plus-de-1-000-medias-en-francais-generes-par-ia-polluent-le-web-et-google/) Le second est publié par La Revue des Média de l’INA : [https://larevuedesmedias.ina.fr/intelligence-artificielle-ia-medias-journalisme-cartographie-enjeux-usages](https://larevuedesmedias.ina.fr/intelligence-artificielle-ia-medias-journalisme-cartographie-enjeux-usages) La BBC a réalisé une étude sur les réponses de 4 IA grands publics (ChatGPT, Copilot, Gemini et Perplexity) à propos de l’actualité. Le résultat n’est glorieux : – 51 % des réponses de l’IA aux questions sur l’actualité ont été jugées comme ayant des problèmes significatifs d’une forme ou d’une autre. – 19 % des réponses de l’IA qui citaient du contenu de la BBC ont introduit des erreurs factuelles – des déclarations factuelles incorrectes, des chiffres et des dates. – 13 % des citations provenant d’articles de la BBC ont été soit modifiées, soit n’existaient pas réellement dans cet article. Tous les détails : [https://www.bbc.com/mediacentre/2025/bbc-research-shows-issues-with-answers-from-artificial-intelligence-assistants](https://www.bbc.com/mediacentre/2025/bbc-research-shows-issues-with-answers-from-artificial-intelligence-assistants) **Update 1:** OpenAI a annoncé un partenariat avec un ensemble de laboratoires publics américains, dont celui en charge de la gestion du stock d’armement nucléaire. Tous les détails en anglais : [https://futurism.com/openai-signs-deal-us-government-nuclear-weapon-security](https://futurism.com/openai-signs-deal-us-government-nuclear-weapon-security) Tout le monde fantasme d’avoir un agent qui fait son travail à sa place, un robot qui prépare l’apéro avant de rentrer chez soit le soir et certain.e.s avec qui faire l’amour ! La question de la peur de l’IA qui a pris un tournant avec l’arrivée de ChatGPT est d’une part normale car cela nous projette dans un changement vers l’inconnu. En revanche, il serait bon de définir l’IA telle qu’elle est : un outil. Au même titre que vous pouvez causer du mal avec une petite cuillère, nous nous causerons du mal avec l’IA. La responsabilité reste à l’humain, celui qui a créé l’IA, mais aussi et surtout à celui qui l’utilise. Les exemples où l’intelligence artificielle a déconné sont multiples : – En 2010, le [Flash Crach](https://fr.wikipedia.org/wiki/Flash_Crash_de_2010). En 10 minutes, le Dow Jones a perdu 10% de sa valeur à cause d’un emballement des algorithmes des traders. – En 2018 Amazon a annoncé abandonner son outil d’aide au [recrutement](https://www.jaimelesstartups.fr/offre-emploi-startup/) car ce dernier avait été entrainé sur la base historique et avait tendance à discriminer les femmes. – L’outil [Compas](https://en.wikipedia.org/wiki/COMPAS_(software)) utilisé par la justice américaine pour déterminer la probabilité de récidive d’un détenu a montrer un biais sur la couleur de peau. – Dans le scandale Cambridge Analytica, le machine learning a joué un rôle prépondérant dans le traitement de la donnée pour faciliter ensuite des élections. – Les systèmes de conduite autonomes sont régulièrement mis en cause dans des accidents de voitures. Au fur et à mesure que nous ferons entrer l’IA dans nos vies, nous rencontrerons des déboires, voire même des maxi problèmes. Si vous utilisez une cafetière intelligente, vous risquez d’avoir un café trop chaud, ou trop froid ou pas de café du tout. Si vous laissez l’IA contrôler le véhicule dans lequel vous vous trouvez, vous risquer d’avoir un accident… En revanche, il existe un risque qui nous menace tous : Le chômage ! L’IA et ses Agents sont un outil formidable pour améliorer la productivité. Donner une IA bien formée à une équipe de 5 salariés. Grâce à l’IA, au bout de 6 mois, un seul salarié suffira à faire le boulot de toute l’équipe. La question est : qui paiera le salaire des 3 ou 4 nous chômeurs :) En attendant de donner l’accès au code nucléaire à ChatGPT, il est possible que la prochaine catastrophe soit beaucoup plus sociale et beaucoup plus proche ! A bientôt, On se retrouve après notre CAP électricien/boulanger.