Grandes empresas de IA acuerdan marcar su contenido con marcas de agua - TechRepublic

El viernes 21 de julio, una hoja informativa de la Casa Blanca reveló que algunas de las mayores compañías de IA generativa en Estados Unidos planean implementar marcas de agua en su contenido. Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI acordaron ocho compromisos voluntarios en torno al uso y supervisión de la IA generativa, incluyendo las marcas de agua. En septiembre, otras ocho compañías se unieron a estos estándares voluntarios: Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI y Stability AI.

Esto sigue a un comunicado de marzo sobre las preocupaciones de la Casa Blanca sobre el mal uso de la IA. Este acuerdo llega en un momento en que los reguladores están estableciendo procedimientos para gestionar el impacto que la IA generativa ha tenido en la tecnología y en la forma en que las personas interactúan con ella desde que ChatGPT puso en el ojo público el contenido de IA en noviembre de 2022.

¿Cuáles son los ocho compromisos de seguridad de la IA?

Los ocho compromisos de seguridad de la IA incluyen:

• Pruebas de seguridad internas y externas de los sistemas de IA antes de su lanzamiento.
• Compartir información en la industria y con gobiernos, sociedad civil y académicos sobre la gestión de los riesgos de la IA.
• Invertir en ciberseguridad y protección contra amenazas internas, especialmente para proteger los pesos del modelo, que afectan el sesgo y los conceptos con los que el modelo de IA se asocia.
• Fomentar el descubrimiento y la denuncia de vulnerabilidades en sus sistemas de IA por parte de terceros.
• Informar públicamente sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de los sistemas de IA.
• Priorizar la investigación sobre sesgo y privacidad.
• Ayudar a utilizar la IA con fines beneficiosos, como la investigación del cáncer.
• Desarrollar mecanismos técnicos sólidos para la implementación de marcas de agua.

El compromiso de las marcas de agua implica que las empresas de IA generativa desarrollarán una forma de marcar el contenido de texto, audio o visual como generado por máquina; esto se aplicará a cualquier contenido de IA generativa disponible públicamente creado después de que el sistema de marcas de agua esté establecido. Dado que el sistema de marcas de agua aún no ha sido creado, pasaría algún tiempo antes de que esté disponible públicamente una forma estándar de identificar si el contenido ha sido generado por IA.

La regulación gubernamental de la IA puede disuadir a actores malintencionados

Moe Tanabian, ex vicepresidente global de Microsoft Azure y actual director de productos de Cognite, está a favor de la regulación gubernamental de la IA generativa. En una conversación con TechRepublic, comparó la era actual de la IA generativa con el surgimiento de las redes sociales, incluyendo posibles desventajas como el escándalo de privacidad de datos de Cambridge Analytica y otra información errónea durante las elecciones de 2016.

"Existen muchas oportunidades para que actores malintencionados se aprovechen de la IA generativa, la utilicen y abusen de ella, y eso es lo que están haciendo. Entonces, pienso que los gobiernos deben tener algún elemento de marcas de agua, alguna raíz de confianza que necesiten instanciar y definir", afirmó Tanabian.

"Por ejemplo, los teléfonos deberían ser capaces de detectar si los actores malintencionados están utilizando voces generadas por IA para dejar mensajes de voz fraudulentos", dijo.

"Tecnológicamente, no estamos en desventaja. Sabemos cómo [detectar el contenido generado por IA]", aseguró Tanabian. "Requerir a la industria y establecer esas regulaciones para que haya una raíz de confianza que autentique este contenido generado por IA es la clave".

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial -, allí encontraras muchos artículos similares a Grandes empresas de IA acuerdan marcar su contenido con marcas de agua - TechRepublic , tenemos lo ultimo en tecnología 2023.