Grandes empresas de IA acuerdan marcar con marca de agua su contenido generativo

Algunas de las compañías de inteligencia artificial generativa más grandes que operan en los EE. UU. planean marcar su contenido con marcas de agua, según reveló una hoja de datos de la Casa Blanca el viernes 21 de julio. Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI acordaron ocho compromisos voluntarios en torno al uso y supervisión de la inteligencia artificial generativa, incluyendo el marcaje con marcas de agua.

Esto se produce después de una declaración en marzo sobre las preocupaciones de la Casa Blanca sobre el mal uso de la inteligencia artificial. Además, el acuerdo llega en un momento en que los reguladores están elaborando procedimientos para gestionar el impacto que la inteligencia artificial generativa ha tenido en la tecnología y en las formas en que las personas interactúan con ella desde que ChatGPT puso el contenido de IA en el ojo público en noviembre de 2022.

¿Cuáles son los ocho compromisos de seguridad de la inteligencia artificial?

Los ocho compromisos de seguridad de la inteligencia artificial incluyen:

• Pruebas de seguridad internas y externas de los sistemas de inteligencia artificial antes de su lanzamiento.
• Compartir información entre la industria y los gobiernos, la sociedad civil y la academia sobre cómo gestionar los riesgos de la IA.
• Invertir en seguridad cibernética y salvaguardias contra amenazas internas, específicamente para proteger los pesos del modelo, que afectan el sesgo y los conceptos que el modelo de IA asocia entre sí.
• Fomentar el descubrimiento y la notificación por parte de terceros de vulnerabilidades en sus sistemas de IA.
• Informar públicamente sobre las capacidades, limitaciones y áreas de uso adecuado e inapropiado de todos los sistemas de IA.
• Priorizar la investigación sobre sesgo y privacidad.
• Ayudar a utilizar la IA con fines beneficiosos, como la investigación del cáncer.
• Desarrollar mecanismos técnicos robustos para el marcaje con marcas de agua.

El compromiso de marcaje con marcas de agua implica que las compañías de inteligencia artificial generativa desarrollarán una forma de marcar texto, audio o contenido visual como generado por máquinas; se aplicará a cualquier contenido de inteligencia artificial generativa disponible públicamente que se cree después de que se establezca el sistema de marcaje con marcas de agua. Dado que el sistema de marcaje con marcas de agua aún no se ha creado, pasará algún tiempo antes de que haya una forma estándar de determinar si el contenido ha sido generado por IA y esté disponible públicamente.

La regulación gubernamental de la IA puede disuadir a los actores malintencionados

Moe Tanabian, ex vicepresidente global de Microsoft Azure y actual director de producto de Cognite, apoya la regulación gubernamental de la inteligencia artificial generativa. En una conversación con Newsmatic, comparó la era actual de la IA generativa con el auge de las redes sociales, incluidos posibles inconvenientes como el escándalo de privacidad de datos de Cambridge Analytica y otra información errónea durante las elecciones de 2016.

"Hay muchas oportunidades para que los actores malintencionados se aprovechen de la IA generativa y la usen y abusen de ella, y eso es lo que están haciendo. Por lo tanto, creo que los gobiernos deben tener algún tipo de marca de agua o elemento de confianza que necesitan establecer y definir", dijo Tanabian.

Cómo prepararse para el futuro de la IA: Consejos rápidos para profesionales de TI

"Por ejemplo, los teléfonos deberían ser capaces de detectar si los actores malintencionados están utilizando voces generadas por IA para dejar mensajes de voz fraudulentos", agregó.

"Tecnológicamente, no estamos en desventaja. Sabemos cómo [detectar contenido generado por IA]", dijo Tanabian. "Requerir a la industria que establezca esas regulaciones y poner en marcha un sistema de confianza para autenticar este contenido generado por IA es clave".

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Grandes empresas de IA acuerdan marcar con marca de agua su contenido generativo , tenemos lo ultimo en tecnología 2023.