Google lucha contra la desinformación de IA con etiquetas de búsqueda y mejoras de seguridad en la dark web

Google agregará inteligencia artificial a varias características de seguridad en línea y brindará a los usuarios más información sobre si su información podría haber sido publicada en la web oscura, anunció el gigante tecnológico durante la conferencia Google I/O el 10 de mayo. Las nuevas características de seguridad se implementarán en mercados selectos en las próximas semanas o meses.

Ir a:

• La búsqueda de imágenes marcará el contenido generado por inteligencia artificial
• La navegación segura obtiene un pulido de IA
• Poniendo atención en la web oscura
• El filtrado de spam de Gmail y la seguridad de Maps serán mejorados

La búsqueda de imágenes marcará el contenido generado por inteligencia artificial

Una preocupación sobre la proliferación de inteligencia artificial es que puede volverse difícil verificar si las imágenes son reales o generadas digitalmente. Para las empresas, tener una forma rápida de distinguir la diferencia podría evitar la confusión en torno a los derechos de autor y los orígenes de las imágenes generadas por inteligencia artificial. Las organizaciones también podrían utilizar estas etiquetas como parte de las políticas de la empresa con respecto al uso de contenido generado por AI.

Google quiere anticiparse a este problema con la función "Acerca de esta imagen", que indica si una imagen es original o generada por inteligencia artificial (Figura A).

Figura A

Descubre las 6 mejoras sorprendentes de Google Bard

Además de detectar fotos generadas por AI fotorrealistas, la función "Acerca de esta imagen" proporciona contexto sobre cuándo se indexó por primera vez la imagen y las imágenes similares en Google, dónde apareció por primera vez y dónde más ha aparecido en línea. Este contexto podría ayudar a identificar la desinformación, la manipulación de fotos y las imágenes generadas artificialmente.

Google ofrece la generación de imágenes de IA y planea implementar etiquetas que identifiquen esas imágenes como generadas por AI en la búsqueda. Otras empresas, como Midjourney y Shutterstock, están trabajando con Google para etiquetar sus imágenes cuando aparecen en la búsqueda (Figura B).

Figura B

Google dice que la función "Acerca de esta imagen" estará disponible "en los próximos meses".

Scribbyo AI: Generador de contenido innovador en 37 idiomas

VER: Ahora puedes probar Google Bard generative AI, un rival de ChatGPT.

La navegación segura obtiene un pulido de IA

Además, Google mejorará sus características de navegación segura mediante el uso de IA para escanear sitios y archivos peligrosos. La nueva API de Navegación Segura para Chrome y Android escanea sitios comprometidos y otros posibles puntos de ataque con IA entrenada para reconocer actores maliciosos. La API puede detectar y bloquear un 25% más de intentos de phishing por mes que las características de seguridad existentes, según Google.

Poniendo atención en la web oscura

Los suscriptores de Google One en los EE. UU. podrán ejecutar informes de la web oscura para ver si su dirección de correo electrónico u otra información personal está en las listas de objetivos de los atacantes. Google luego puede ofrecer sugerencias sobre cómo asegurar las cuentas del usuario. Google ahora está expandiendo esta función a cualquier persona en los EE. UU. con una cuenta de Gmail. Esto se implementará "en las próximas semanas", y ciertos mercados internacionales seguirán después.

"La extensión de Google de su informe de la web oscura más allá de los planes de Google One es un paso en la dirección correcta y parte de la responsabilidad de Google en el ecosistema", dijo Roy Akerman, cofundador y CEO de la empresa de identidad y seguridad Rezonate. "Sin embargo, hemos visto que los clientes existentes de Google One pueden saber que su información está disponible en la web oscura, pero no se toma ninguna acción. Saber no es suficiente; es necesario tomar medidas para comprender el riesgo potencial y se deben implementar cambios en las cuentas".

Por ejemplo, un usuario cuyo número de Seguro Social fue robado podría informarlo al gobierno. El robo de credenciales de cuenta bancaria podría informarse al banco, y la información comercial asociada con la cuenta podría informarse al departamento de TI de la empresa.

El filtrado de spam de Gmail y la seguridad de Maps serán mejorados

Algunas otras características no están recibiendo mejoras de IA, pero se están ampliando.

Cómo utilizar un chatbot de IA en tu proceso de brainstorming

Por ejemplo, Gmail manejará el spam de manera ligeramente diferente en el futuro. Los usuarios tendrán nuevas opciones para separar y revisar archivos y decidir qué podría ser spam. El mismo tipo de filtrado de spam utilizado en Gmail también llegará a Google Drive (Figura C).

Figura C

Google apuesta a que las contraseñas se conviertan en algo del pasado al ofrecer más opciones para iniciar sesión, incluidas las contraseñas.

Google Maps facilitará a los usuarios borrar su historial de búsqueda. Google propone que esto podría evitar que las personas noten si alguien les ha comprado un regalo sorpresa; también podría evitar usos más siniestros como el acecho.

Para obtener más información sobre las novedades de Google I/O, lee sobre cómo el gran modelo de lenguaje PaLM 2 se integrará en Search, Maps y otros servicios cotidianos.

Helix de Dell: el servicio de IA generativa que abarca todo

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Google lucha contra la desinformación de IA con etiquetas de búsqueda y mejoras de seguridad en la dark web , tenemos lo ultimo en tecnología 2023.