L’article de 01net expose la stratégie de la société pour contrer la propagation de fausses informations pendant les élections à l’ère de l’intelligence artificielle. Face au risque croissant d’utilisation abusive de leurs outils tels que ChatGPT et Dall-E pour créer des deepfakes et manipuler les électeurs, OpenAI s’engage à prévenir les abus. La société bloque certaines demandes d’utilisateurs, notamment l’utilisation de ChatGPT pour créer des chatbots se faisant passer pour de vraies personnes ou institutions, et interdit la génération d’images de personnes réelles, y compris de candidats, avec Dall-E. De plus, OpenAI expérimente un outil de détection de provenance pour les images générées par Dall-E, ajoutant un niveau de transparence pour distinguer les contenus générés par l’IA des contenus authentiques.
OpenAI s’efforce également d’assurer la qualité des informations en intégrant des programmes de vérification des faits et d’authenticité des images. La société travaille sur un système de marquage des images générées par Dall-E, en collaboration avec une coalition d’entreprises, afin de permettre une identification rapide des contenus produits par l’IA. Enfin, OpenAI envisage d’orienter les utilisateurs de ChatGPT vers des sources d’informations de référence et des sites dédiés au vote pour renforcer l’accès à des informations précises et contrer les tentatives de manipulation électorale. Ces mesures préventives soulignent la responsabilité d’OpenAI dans la promotion de l’utilisation éthique de ses technologies dans un contexte politique sensible.
No responses yet