L’intelligence artificielle (IA) peut conduire à un « syndrome de distanciation », a prévenu Vitaly Kamluk, expert de Kaspersky, alors qu’il examine les risques psychologiques de l’IA dans la cybercriminalité.
Kamluk, responsable du centre de recherche pour l’Asie-Pacifique, équipe mondiale de recherche et d’analyse (GReAT) chez Kaspersky, a révélé que les cybercriminels exploitent de plus en plus l’IA dans leurs activités malveillantes. Cela leur permet de rejeter la responsabilité sur la technologie elle-même et d’échapper à la responsabilité des conséquences de leurs cyberattaques.
Selon lui, cela entraînerait « le syndrome de la distance ».
A lire aussi : Nvidia et Reliance s’associent pour faire progresser l’IA en Inde : des LLM dans les langues régionales de l’Inde seront bientôt disponibles
« Outre les aspects techniques de menace liés à l’IA, il existe également un risque psychologique potentiel. Il existe un syndrome de souffrance et de distance connu parmi les cybercriminels. Agresser physiquement quelqu’un dans la rue provoque beaucoup de stress chez les criminels, car ils voient souvent la souffrance de leur victime. Cela ne s’applique pas à un voleur virtuel qui vole une victime qu’il ne verra jamais. Créer une IA qui rapporte comme par magie de l’argent ou des profits illégaux éloigne encore plus les criminels, car ce n’est même pas eux, mais l’IA, qui sont blâmés », a expliqué Kamluk.
Une autre conséquence psychologique de l’IA qui peut avoir un impact sur les équipes de sécurité informatique est connue sous le nom de « délégation de responsabilité ». Les processus et outils de cybersécurité s’appuyant de plus en plus sur l’automatisation et les réseaux neuronaux, les individus peuvent se sentir moins responsables en cas de cyberattaque, en particulier dans le cadre d’une entreprise.
Cela peut également affecter les défenseurs, en particulier dans le monde de l’entreprise, chargé de responsabilités formelles en matière de conformité et de sécurité. Dans de tels cas, un système de défense avancé pourrait être injustement blâmé pour les incidents de sécurité.
Comment profiter en toute sécurité des avantages de l’IA :
1. Accessibilité
Limitez l’accès aux systèmes d’IA, suivez l’historique du contenu et vérifiez les méthodes de génération de contenu pour éviter toute utilisation abusive.
2. Règlements
L’Union européenne envisage des règles pour étiqueter le contenu créé avec l’IA, permettant ainsi aux utilisateurs de repérer plus facilement le matériel généré par l’IA. Cela permet d’identifier les images, l’audio, la vidéo ou le texte créés par l’IA. Bien que certains puissent encore abuser de l’IA, ils resteront minoritaires et en subiront les conséquences.
3. Éducation
Promouvoir la sensibilisation à l’IA dans les écoles, en la différenciant de l’intelligence naturelle. Enseignez l’utilisation responsable de la technologie et les conséquences des abus.
« Comme la plupart des avancées technologiques, l’IA est une arme à double tranchant. Nous pouvons toujours l’utiliser à notre avantage tant que nous savons comment définir des directives sécurisées pour ces machines intelligentes », a déclaré Kamluk.
