💭 Cybersécurité en 2024 : l’Année IA de tous les dangers ! 🌩 Cybersecurity in 2024: the AI Year of all dangers ! 🤖
📍Mauvaise qualité du code, risque de fuites de données, vecteur supplémentaire d’attaque… Dans une note conjointe, les agences cyber française et allemande alertent sur les risques liés à l’utilisation d’outils d’IA générative par les développeurs informatiques, très prisée dans les administrations publiques. Mieux vaut tard que jamais.
Cybersécurité et IA Générative : L’État en alerte sur les risques croissants.
La montée en puissance de l’IA générative, ces systèmes capables de produire du code, des images ou même du texte de manière autonome, soulève de nombreuses préoccupations, notamment en matière de cybersécurité. Dans une récente alerte conjointe, les agences de cybersécurité française (ANSSI) et allemande avertissent des dangers liés à l’utilisation de ces outils par les informaticiens dans les administrations publiques.
Un risque grandissant pour la sécurité des systèmes.
L’IA générative est devenue très populaire parmi les développeurs pour son efficacité à produire du code rapidement. Cependant, cette rapidité cache un danger : la mauvaise qualité du code généré, qui peut inclure des vulnérabilités non détectées, ouvre des portes aux cyberattaques. De plus, la collecte massive de données pour entraîner ces IA amplifie le risque de fuites de données sensibles, notamment dans des secteurs critiques comme l’administration publique et les entreprises privées.
Les systèmes d’IA générative, en raison de leur structure même, sont également vulnérables aux attaques par manipulation et infection de données. Des scénarios concrets ont déjà été décrits par l’ANSSI, où des pirates s’introduisent dans les environnements de développement ou infectent des plugins sollicités par ces IA, créant ainsi des failles dans la chaîne de sécurité.
Une cible pour les cybercriminels.
Les menaces ne s’arrêtent pas à la qualité du code ou aux fuites de données. Désormais, l’IA elle-même devient une cible des cyberattaques. Des attaques adversariales, où des pirates manipulent les données d’entraînement des IA pour perturber leurs prédictions ou corrompre leurs résultats, sont en augmentation. Des ransomwares plus sophistiqués, amplifiés par l’utilisation de l’IA, sont également en plein essor, touchant particulièrement les infrastructures critiques comme les hôpitaux et les administrations.
Les prochaines étapes doivent se concentrer sur le renforcement des mesures de sécurité à chaque phase du cycle de vie d’un projet IA. L’ANSSI recommande des contrôles stricts lors de l’entraînement et du déploiement des systèmes d’IA, ainsi qu’une gestion rigoureuse des accès aux données sensibles utilisées pour ces systèmes.
Conclusion : vers une cybersécurité proactive.
Les risques liés à l’IA générative, bien qu’innovants, sont alarmants pour la sécurité des systèmes publics et privés. Les États, entreprises et particuliers doivent collaborer pour anticiper les attaques et se protéger contre ces nouvelles formes de menaces. Alors que la guerre numérique évolue rapidement, les systèmes d’IA, autrefois outils de productivité, deviennent des points névralgiques de défense ou de vulnérabilité. Les efforts combinés de vigilance humaine et de technologies de sécurité avancées seront essentiels pour atténuer ces risques croissants.
■ Les Dangers de la Programmation avec l’IA Générative.
En savoir plus :
■ Le cybergardien de l’État alerte sur l’utilisation de l’IA générative par les informaticiens : Mauvaise qualité du code, risque de fuites de données, vecteur supplémentaire d’attaque… Dans une note conjointe, les agences cyber française et allemande alertent sur les risques liés à l’utilisation d’outils d’IA générative par les développeurs informatiques, très prisée dans les administrations publiques. Mieux vaut tard que jamais. Lire la suite sur [Acteurs Publics] Réservé aux abonnés.
■ Cybersécurité en 2024 : l’Année IA de tous les dangers !Cybersécurité en 2024 : l’Année IA de tous les dangers !
L’utilisation de l’IA par les cybercriminels est en constante évolution, devenant plus sophistiquée et contournant les défenses de sécurité existantes. L’année 2024 sera marquée par une augmentation des cyberattaques et des cybercrimes s’appuyant sur l’IA et ses différentes sous catégories dont l’IA generative (ou GenAI) dédiée à générer du texte, des images, du son, ou tout autres médias en réponse à des invites (ou prompts en anglais) c’est à dire une sollicitation de l’utilisateur en mode texte. Il est crucial, pour ne pas dire vital que les entreprises et les gouvernements investissent massivement dans des solutions de cybersécurité basées sur l’IA pour se protéger contre les attaques malveillantes inédites en approche et de façon quantitativement démultipliées. Les particuliers devraient également se tenir informés pour se protéger au mieux.
La cybersécurité est en train de subir un changement de paradigme dû à l’évolution de la cybercriminalité et à la dématérialisation croissante de la société. La crise sanitaire a accéléré cette évolution, augmentant la quantité de données sensibles dans le cyberespace à protéger. L’intelligence artificielle transforme le monde de la cybersécurité et a des implications dans de nombreux métiers. Le résultat de cette dynamique est visible, notamment dans le domaine de la santé, le rapport de l’ENISA (European Union Agency for Cybersecurity) démontre par exemple que les cyberattaques ont doublé au premier trimestre 2023 les cibles s’élargissant jusqu’aux prestataires de services ! Lire la suite sur [Forbes].
■ Sécurité de l’IA Générative : l’ANSSI a publié un guide !
L’Agence nationale de la sécurité des systèmes d’information (ANSSI) a mis en ligne un nouveau guide au sujet de la sécurité de l’IA générative ! Un document probablement attendu par de nombreuses organisations et personnes compte tenu de la popularité du sujet !
Ce guide mis en ligne par l’ANSSI est le bienvenu ! Il devrait donc être consulté par toutes les entreprises qui envisagent d’utiliser ou de concevoir une IA générative.
D’ailleurs, c’est quoi exactement l’IA générative ? L’ANSSI nous propose sa définition dans les premières pages de son guide : « L’IA générative est un sous-ensemble de l’intelligence artificielle, axé sur la création de modèles qui sont entraînés à générer du contenu (texte, images, vidéos, etc.) à partir d’un corpus spécifique de données d’entraînement. » – Autrement dit, il s’agit d’une IA destinée à différents cas d’usage tels que les Chatbots, la génération de code informatique ou encore l’analyse et la synthèse d’un document.
L’ANSSI insiste sur le fait que la mise en œuvre d’une IA générative peut se décomposer en trois phases :
1 – La phase d’entraînement, à partir d’ensembles de données spécifiquement sélectionnés.
2 – La phase d’intégration et de déploiement.
3 – La phase de production où l’IA est mise à disposition des utilisateurs.
Chacune de ces phases doit être associée à des « mesures de sécurisations spécifiques« , notamment en tenant compte de « la sensibilité des données utilisées à chaque étape et de la criticité du système d’IA dans sa finalité.« , peut-on lire. La confidentialité et la protection des données utilisées pour l’entraînement initial de l’IA est l’un des enjeux.
Au-delà de s’intéresser à l’IA générative dans son ensemble, ce guide traite de plusieurs scénarios concrets et qui font échos à certains usages populaires actuels.
Scénarios d’attaques sur un système d’IA générative.
L’ANSSI évoque également des scénarios d’attaques sur l’IA générative, telles que les attaques par manipulation, infection et exfiltration. Le schéma ci-dessous met en lumière plusieurs scénarios où l’attaquant s’est introduit à différents emplacements du SI (accès à l’environnement de développement, accès à une source de données, accès à un plugin sollicité par le système d’IA, etc.).
Sécurité de l’IA générative : les recommandations de l’ANSSI.
Tout au long de ce guide, l’ANSSI a introduit des recommandations. Au total, il y a 35 recommandations à mettre en œuvre pour sécuriser l’intégralité d’un système d’IA générative. Il y a un ensemble de recommandations pour chaque phase du déploiement.
L’ANSSI insiste notamment sur l’importance de cloisonner le système d’IA, de journaliser et de filtrer les accès notamment car les plugins externes représentent un risque majeur, et de dédier les composants GPU au système d’IA. Autrement dit, l’ANSSI déconseille de mutualiser le matériel destinée à l’IA.
Pour consulter ce guide, rendez-vous sur le site de l’ANSSI : ANSSI – Guide – Sécurité IA générative.
Source : [It-Connect]
■ » L’intelligence artificielle, générative ou non, est l’arme à double tranchant de la cybersécurité « , Alain Sanchez (Fortinet) : La multinationale spécialisée dans la sécurité réseau multiplie les investissements en R&D pour des outils d’intelligence artificielle. Elle affirme posséder trois fois plus de brevets dans l’IA que ses concurrents. Alain Sanchez, CISO Europe, Moyen-Orient et Afrique (EMEA) pour Fortinet, détaille à L’Usine Digitale la manière dont la firme protège ses clients, y compris en utilisant des outils d’IA. Lire la suite sur [Les Affaires].
En bonus :
■ Les DANGERS CACHÉS qui pèsent sur votre PATRIMOINE à l’heure de l’intelligence artificielle : 📤 Partage cette vidéo à quelqu’un qui en a besoin !
■ Top 5 Cybersecurity Threats for 2024 (Weaponized AI is The New Normal). Top 5 des menaces de cybersécurité pour 2024 (l’IA militarisée est la nouvelle norme).
Êtes-vous prêt à faire face aux menaces qui pèseront sur la cybersécurité en 2024 ? La technologie évolue, tout comme les tactiques des cybercriminels, et dans cette vidéo, nous nous penchons sur les 5 principales menaces de cybersécurité qui domineront l’année à venir. L’IA militarisée devenant la nouvelle norme, il est essentiel de comprendre ces menaces pour protéger votre vie personnelle et professionnelle. Dans cette vidéo, nous explorons la manière dont les pirates tirent parti de l’IA pour lancer des attaques plus sophistiquées et plus dangereuses. Qu’il s’agisse d’escroqueries par hameçonnage basées sur l’IA ou de violations de données automatisées, ces menaces sont plus omniprésentes que jamais. Nous aborderons également le problème croissant de la technologie deepfake, qui permet d’utiliser des vidéos et des sons manipulés à des fins malveillantes, rendant plus difficile la confiance dans ce que vous voyez et entendez en ligne. Vous découvrirez également les vulnérabilités de l’informatique en nuage exploitées par les cybercriminels, et comment les attaques par ransomware devraient devenir encore plus destructrices en 2024. Les entreprises et les particuliers ayant de plus en plus recours aux services du cloud, il est plus important que jamais de comprendre ces risques et de savoir comment les atténuer. Quelles sont les principales menaces de cybersécurité pour 2024 ? Comment l’IA est-elle utilisée dans les cyberattaques ? Quel est l’avenir de la cybersécurité ? Comment puis-je me protéger des cybermenaces liées à l’IA ? Quels sont les risques du cloud computing en 2024 ? Regardez la vidéo pour découvrir les réponses à ces questions et bien plus encore !
■ Le nouveau Dieu dans votre poche. The new God in your pocket : Et si Internet était vivant ? Et si nous alimentions chaque jour, sans nous en rendre compte, une singularité technologique et consciente à venir ? Aujourd’hui, je vous emmène avec moi repenser cet espace à la fois fascinant et incompréhensible qu’est Internet, et ce qu’il pourrait devenir d’ici seulement quelques décennies. Attachez vos ceintures. Lire et Voir la suite 🔗
■ Comment s’échapper de sa prison mentale.
L’esprit humain peut périmer… si, si, je vous assure – et d’ailleurs, c’est beaucoup plus commun que ce que vous pensez. Nous sommes tous tenus de lutter contre notre propre flétrissement mental. Pour ce faire, nous devons réussir l’impossible : détruire et reconstruire nos paradigmes de réalité. Pas une fois, pas deux… mais tout au long de nos vies. Cet épisode vise précisément à vous donner un petit coup de main dans ce processus : déconstruire puis reconstruire vos réalités. Bonne découverte !
Tu pourrais aussi aimer :
■ « Menteur », « Sale Type » : Des Relations Tendues Entre Biden et Netanyahu, Révélées dans Un Livre.
📍Un livre explosif de Bob Woodward, intitulé War, qui sortira le 15 octobre, met en lumière les tensions entre le président américain Joe Biden et le Premier ministre israélien Benjamin Netanyahu. Dans ce livre, Woodward révèle des détails croustillants sur des conversations entre Biden et Netanyahu, illustrant une relation de plus en plus tendue au cours de l’année écoulée, marquée par des désaccords sur la stratégie militaire d’Israël à Gaza.
✍️ D’après les extraits divulgués, Biden ne cache pas sa frustration face aux actions militaires israéliennes, les qualifiant de stratégiquement insensées. Lors d’un échange téléphonique en avril, Biden a exprimé son désaccord avec la déclaration de Netanyahu selon laquelle il devait prendre la ville de Rafah, rétorquant : « Bibi, tu n’as pas de stratégie ». Ce climat de méfiance a conduit Biden à décrire Netanyahu comme « Un Menteur » et à se plaindre de ses proches, considérant 18 de ses 19 conseillers comme des « Menteurs ». Lire et Voir la suite 🔗
⚱️Pyramide de Khéops : Le Phénomène Électromagnétique qui Change Notre Vision des Anciennes Civilisations : Des Mystères Millénaires à la Technologie Moderne : L’Énigme Électromagnétique de Gizeh.
📍La Grande Pyramide de Gizeh, ou Pyramide de Khéops, érigée il y a plus de 4 500 ans, N’A PAS FINI DE NOUS SURPRENDRE. Des découvertes récentes montrent que cette merveille de l’architecture ancienne possède des propriétés électromagnétiques exceptionnelles. Des scientifiques ont en effet révélé que ses chambres internes et sa base concentrent l’énergie électromagnétique, un phénomène qui pourrait Révolutionner Notre Compréhension des Civilisations Antiques et Ouvrir des Perspectives Fascinantes pour les Technologies Modernes. Lire et Voir la suite 🔗
🛸 Ufo Planet Actus Sightings Investigations 👽
🪐 Planet Actus True News Letters 🗞
💻 Planet Actus.com 🪐
