Salesforce establece una política de uso aceptable para su inteligencia artificial (IA)

Salesforce publicó el miércoles una política que regula el uso de sus productos de inteligencia artificial, incluyendo la inteligencia artificial generativa y el aprendizaje automático. Esta política de inteligencia artificial es un precedente interesante porque Salesforce es una organización tan grande en el campo de las plataformas de ventas y la gestión de relaciones con los clientes. Además, la política ofrece directrices claras, y las regulaciones de inteligencia artificial aún se encuentran en discusión y desarrollo.

Hablamos con el vicepresidente ejecutivo y director general de Salesforce Industry Clouds, Jujhar Singh, sobre la política y por qué es importante que las empresas establezcan límites éticos en torno a su inteligencia artificial generativa.

¿Cuál es la política de inteligencia artificial aceptable de Salesforce?

La política de inteligencia artificial aceptable de Salesforce describe las formas en que no se pueden utilizar sus productos de inteligencia artificial. Se publicó el 23 de agosto. La política restringe para qué pueden utilizar los clientes de Salesforce sus productos de inteligencia artificial generativa, incluyendo prohibir su uso para el desarrollo de armas, contenido para adultos, creación de perfiles basada en características protegidas (como la raza), identificación biométrica, asesoramiento médico o legal, decisiones que puedan tener consecuencias legales y más.

La política fue redactada bajo la supervisión de Paula Goldman, directora ética y de uso humano en Salesforce, quien forma parte del Comité Asesor Nacional de Inteligencia Artificial de Estados Unidos.

"No basta con ofrecer las capacidades tecnológicas de la inteligencia artificial generativa, debemos priorizar la innovación responsable para guiar cómo se puede y se debe utilizar esta tecnología transformadora", escribió el equipo de Salesforce en la entrada de blog que anunciaba la política.

Domina ChatGPT para Negocios en el 2023 con este increíble paquete de aprendizaje

La política se une a las directrices internas de inteligencia artificial generativa de Salesforce

Salesforce tiene una lista pública de directrices internas para el desarrollo de su inteligencia artificial generativa. Esto podría servir como ejemplo para otras empresas que creen políticas en torno a la creación de su inteligencia artificial generativa. Las directrices de Salesforce son:

1. Respuestas precisas y verificables.
2. Evitación de sesgos o violaciones de privacidad.
3. Apoyo a la procedencia de los datos e inclusión de un descargo de responsabilidad sobre el contenido generado por inteligencia artificial.
4. Identificación del equilibrio adecuado entre el ser humano y la inteligencia artificial.
5. Reducción de la huella de carbono mediante el ajuste adecuado de los modelos.

"La transparencia es una parte importante de cómo tratamos con la inteligencia artificial generativa porque todo se remonta a la (idea de) inteligencia artificial de confianza", dijo Singh en una entrevista con TechRepublic.

Singh enfatizó la importancia de tener una política de retención nula para que la información de identificación personal no se utilice para entrenar un modelo de inteligencia artificial que pueda reproducirla en otro lugar. Salesforce está construyendo filtros para eliminar contenido tóxico y los ajusta constantemente, según Singh.

¿A qué productos se aplica la política de inteligencia artificial de Salesforce?

La política se aplica a todos los servicios ofrecidos por Salesforce o sus afiliados.

Dentro de ese ámbito se encuentran los productos principales de inteligencia artificial generativa de Salesforce, que incluyen todo lo alojado en la plataforma EinsteinGPT, que es una biblioteca de modelos fundamentales públicos y privados, incluido ChatGPT, para servicio al cliente, gestión de relaciones con los clientes y otras tareas en diversas industrias. Sus competidores son ChatSpot.AI de Hubspot y Microsoft Copilot.

¿Cómo pueden las empresas prepararse para el futuro de la inteligencia artificial generativa?

"Los líderes tecnológicos tienen que pensar seriamente en que necesitan mejorar las habilidades de su personal en la inteligencia artificial generativa", dijo Singh. "De hecho, el 60% de las personas a las que se les hizo esta pregunta afirmaron que no tenían las habilidades, pero también pensaron que sus empleadores necesitaban desarrollar esas habilidades".

Microsoft Copilot: La aplicación de IA generativa para aumentar la productividad en las empresas

En particular, las habilidades como la ingeniería de indicaciones serán fundamentales para prosperar en un mundo empresarial en constante cambio, dijo.

En cuanto a la infraestructura, destacó que las empresas necesitan tener una base de confianza sólida para asegurarse de que la inteligencia artificial esté en línea con la tarea y produzca contenido preciso.

¿Cómo será el panorama de la inteligencia artificial generativa en seis meses?

Singh dijo que podría haber una división entre las industrias con una supervisión regulatoria de la inteligencia artificial más estricta o más flexible.

"Creo que las industrias más reguladas adoptarán un enfoque más humano en los próximos seis meses", dijo. "A medida que avancemos en otras industrias, adoptarán la inteligencia artificial de manera más agresiva. Los asistentes que trabajan en tu nombre serán mucho más comunes en esas industrias".

Además, los LLM específicos de la industria "comenzarán a ser muy relevantes muy pronto", dijo.

En Newsmatic nos especializamos en tecnología de vanguardia, contamos con los artículos mas novedosos sobre Inteligencia artificial, allí encontraras muchos artículos similares a Salesforce establece una política de uso aceptable para su inteligencia artificial (IA) , tenemos lo ultimo en tecnología 2023.