OpenAI implementará nuevas herramientas para evitar la desinformación electoral

Bloomberg — OpenAI está implementando una serie de iniciativas para evitar que sus productos se utilicen para desinformación antes de un año importante para las elecciones en Estados Unidos y a nivel mundial.

La startup de inteligencia artificial anunció nuevas herramientas que atribuirán información sobre eventos actuales proporcionada por su chatbot ChatGPT, y ayudarán a los usuarios a determinar si una imagen fue creada por su software de IA. Estos cambios se producen a medida que aumentan las preocupaciones sobre los riesgos de imágenes falsificadas y otro contenido producido por IA que podría inducir a error a los votantes durante las campañas.

"Proteger la integridad de las elecciones requiere la colaboración de todos los rincones del proceso democrático, y queremos asegurarnos de que nuestra tecnología no se utilice de una manera que pueda socavar este proceso", escribió la compañía en una publicación de blog el lunes.

La startup comenzará a codificar imágenes producidas por su herramienta generadora de imágenes Dall-E 3 con información de procedencia, que se refiere a datos sobre los orígenes de un contenido, como quién produjo la imagen y cuándo se hizo. Eso podría ayudar a los votantes a comprender mejor si las imágenes que ven en la web fueron hechas con IA. El proceso utilizará un estándar criptográfico establecido por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Adobe Inc., Microsoft Corp., Intel Corp y algunas otras empresas cofundaron la coalición en 2021.

OpenAI también dijo que lanzará una herramienta de detección de imágenes que las personas pueden usar para verificar si una imagen fue generada por Dall-E. La compañía primero lanzará la herramienta a periodistas, plataformas e investigadores para obtener comentarios. Históricamente, muchas herramientas de detección que intentan determinar si imágenes o escritos específicos fueron creados por IA han tenido problemas de precisión. Sin embargo, la Directora de Tecnología de OpenAI, Mira Murati, dijo en octubre que la herramienta de detección de imágenes en la que la compañía había estado trabajando tenía una precisión del 99% en pruebas internas.

Para ChatGPT, OpenAI permitirá a las personas obtener información en tiempo real sobre eventos actuales mediante el chatbot. Los resultados proporcionarán atribución y enlaces a artículos, características que actualmente no muestra por defecto en la aplicación. La compañía dijo que se está "integrando cada vez más con fuentes de información existentes".

OpenAI está en conversaciones con docenas de empresas de medios para lograr acuerdos de licencia de contenido, incluyendo importantes medios de comunicación como CNN, Fox Corp. y Time, según informó Bloomberg anteriormente. La startup ya ha llegado a acuerdos con Axel Springer SE y Associated Press.

"Al igual que con las imágenes, la transparencia en torno al origen de la información puede ayudar a los votantes a evaluar mejor la información y decidir por sí mismos en qué pueden confiar", dijo la compañía en la publicación.

Lea más en Bloomberg.com