x
Close
Société

Méfions-nous de l’IA

Méfions-nous de l’IA
  • Publiémars 28, 2024

Nous avons tendance à trop faire confiance aux outils d’Intelligence artificielle, ne voyant pas leur supercherie et allant jusqu’à leur confier des données personnelles, alerte une enquête.

 

Un sondage mené par KnowBe4 Africa révèle qu’un nombre significatif d’utilisateurs n’hésitent pas à partager leurs informations personnelles avec des outils d’IA génératrice tels que ChatGPT, s’exposant ainsi à de dangereuses vulnérabilités.

L’enquête, qui a interrogé 1 300 participants dans dix pays d’Afrique et du Moyen-Orient, indique que 63% des utilisateurs sont disposés à partager leurs informations personnelles. À la grande surprise des enquêteurs, 83% des répondants ont exprimé leur confiance dans la précision et la fiabilité des outils d’IA.

« Il est nécessaire de cultiver un état d’esprit de confiance zéro pour aider les gens à surmonter les menaces d’un usage malveillant de l’IA Générative. »

Lors de son lancement fin 2022, ChatGPT a révolutionné la manière dont les gens travaillent. Ce chatbot très compétent, reconnu pour son langage naturel et impeccable, a rapidement fait taire les critiques. Dans de nombreuses entreprises, les équipes commerciales ont découvert qu’elles pouvaient créer des campagnes marketing en quelques minutes au lieu d’heures, et générer facilement du contenu sous diverses formes, telles que du texte et des images. Cependant, les experts estiment que le monde a adopté l’IA génératrice de manière trop précipitée.

Anna Collard
Anna Collard

L’« adoption de l’IA générative offre d’énormes opportunités aux utilisateurs et aux organisations africains, mais nous devons également prendre en compte les risques associés », prévient Anna Collard, vice-présidente du cabinet KnowBe4.

L’enquête, menée auprès d’utilisateurs de smartphones, indique que tous les répondants utilisent l’IA génératrice dans leur vie personnelle et professionnelle, et beaucoup l’utilisent quotidiennement ou hebdomadairement.

Les principaux objectifs d’utilisation de l’IA génératrice sont la recherche, la collecte d’informations, la rédaction de courriels, la génération de contenu créatif et la rédaction de documents. Les répondants ont souligné plusieurs avantages de l’utilisation de l’IA génératrice, notamment le gain de temps, l’aide aux tâches complexes, l’augmentation de la productivité et le renforcement de la créativité.

 

Le danger des deepfakes

Malgré les inquiétudes liées aux pertes d’emplois et aux impacts négatifs dans de nombreux secteurs dus à l’IA générative, 80% des participants estiment que leur sécurité d’emploi n’est pas menacée, bien que 57% reconnaissent le potentiel de remplacement de la créativité humaine par cette technologie. L’« aspect paradoxal de ces résultats réside dans la disparité entre les perceptions individuelles et la réalité, surtout en matière de cybersécurité », commente Anna Collard.

L’adoption de l’IA générative offre d’énormes opportunités aux utilisateurs et aux organisations africaines, mais nous devons également prendre en compte les risques associés.

L’enquête, menée, entre autres pays, à Maurice et au Maroc, révèle que près des deux tiers des utilisateurs sont « à l’aise » avec l’idée de partager leurs informations personnelles avec des outils d’IA Générative tels que ChatGPT. Le niveau de confort dans le partage de données sensibles varie selon les pays. Par exemple, en Afrique du Sud, seuls 54% des utilisateurs sont prêts à partager leurs informations personnelles avec des outils d’IA Générative contre 67% aux Émirats arabes unis et 75% au Nigeria.

Image générée par DALL-E 3
Image générée par DALL-E 3

Selon l’enquête, 83% des utilisateurs jugent que l’IA génératrice est précise et fiable, révélant ainsi, un niveau de confiance « excessif », selon le rapport. Anna Collard souligne l’importance d’encourager la pensée critique et la connaissance de nos biais psychologiques qui nous rendent aveuglément confiants dans un contenu généré de manière synthétique. « Par exemple, nous savons que les utilisateurs surestiment leurs capacités à détecter les deepfakes et perçoivent même les images synthétisées par l’IA comme plus dignes de confiance que de vraies images ! »

Bien sûr, 90 % des personnes interrogées jugent que les outils d’IA devraient être réglementés pour garantir une utilisation responsable. Et pourtant, près de la moitié (46 %) des personnes interrogées signalent que leur lieu de travail ne dispose d’aucune politique concernant l’utilisation d’outils d’IA générative.

Cela suggère que de nombreuses organisations ont été lentes à réglementer l’utilisation de cette technologie. Seuls 8 % des utilisateurs ont déclaré qu’ils n’étaient pas autorisés à utiliser des outils d’IA générative au travail.

 

Confiance zéro

Une enquête antérieure de KnowBe4 Africa avait déjà révélé qu’environ la moitié des consommateurs ne savent pas ce que sont les deepfakes, tandis qu’une récente enquête menée avec ITWeb auprès de gestionnaires informatiques sud-africains a montré que 60% des organisations ne proposent pas de formation sur ce fléau. « Les escrocs peuvent tromper les gens en leur faisant croire que leurs proches sont retenus en otage grâce à de faux messages vocaux et vidéo créés avec cette technologie. »

En raison de leur réalisme trompeur, de nombreuses personnes se font piéger par ces arnaques, y compris des organisations susceptibles de perdre à la fois leur argent et leurs données sensibles. Avec les élections à venir en Afrique du Sud, aux États-Unis et dans de nombreux autres pays, le Forum économique mondial a classé la désinformation parmi les principaux risques de cette année.

« Il est nécessaire de cultiver un état d’esprit de défiance zéro pour aider les gens à surmonter les menaces d’un usage malveillant de l’IA Générative », conclut Anna Collard.

Prêchant certes pour sa paroisse, l’« évangéliste » considère que « les entreprises devraient proposer davantage de formations et mettre en œuvre des politiques exhaustives pour aider leurs employés à naviguer dans cette nouvelle technologie à la fois passionnante et inquiétante ».

À propos, aviez-vous remarqué que le jeune homme de dos, dans la photo de présentation du présent article, n’existait pas ? 

@NA

 

 

Image générée par DALL-E 3

Écrit par
Aude Darc

Laissez un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *