Ya sea que esté creando o personalizando una política de IA o reevaluando cómo su empresa aborda la confianza, mantener la confianza de los clientes puede ser cada vez más difícil debido a la imprevisibilidad de la IA generativa en el panorama. Hablamos con Michael Bondar, director y líder de confianza empresarial de Deloitte, y Shardul Vikram, director de tecnología y jefe de datos e IA en SAP Industries y CX, sobre cómo las empresas pueden mantener la confianza en la era de la IA.
Las organizaciones se benefician de la confianza
En primer lugar, Bondar dijo que cada organización necesita definir la confianza según se aplica a sus necesidades y clientes específicos. Deloitte ofrece herramientas para hacer esto, como el sistema de “dominio de confianza” que se encuentra en algunos de los marcos descargables de Deloitte.
Las organizaciones quieren que sus clientes confíen, pero las personas involucradas en discusiones sobre confianza a menudo dudan cuando se les pregunta exactamente qué significa confianza, dijo. Las empresas en las que se confía muestran resultados financieros más sólidos, un mejor desempeño bursátil y una mayor lealtad de los clientes, descubrió Deloitte.
“Y hemos visto que casi el 80% de los empleados se sienten motivados para trabajar para un empleador confiable”, dijo Bondar.
Vikram definió la confianza como creer que la organización actuará en el mejor interés de los clientes.
Al pensar en la confianza, los clientes se preguntarán: “¿Cuál es el tiempo de actividad de esos servicios?” dijo Vikram. “¿Son seguros esos servicios? ¿Puedo confiar en ese socio en particular para que mantenga mis datos seguros y garantice que cumplan con las regulaciones locales y globales?
Deloitte descubrió que la confianza “comienza con una combinación de competencia e intención, es decir, que la organización sea capaz y confiable para cumplir sus promesas”, dijo Bondar. “Pero también la justificación, la motivación, el por qué detrás de esas acciones está alineado con los valores (y) las expectativas de las distintas partes interesadas, y la humanidad y la transparencia están integradas en esas acciones”.
¿Por qué las organizaciones podrían tener dificultades para mejorar la confianza? Bondar lo atribuyó al “malestar geopolítico”, las “presiones socioeconómicas” y la “aprensión” en torno a las nuevas tecnologías.
La IA generativa puede erosionar la confianza si los clientes no están informados sobre su uso
La IA generativa es una prioridad cuando se trata de nuevas tecnologías. Si se va a utilizar IA generativa, tiene que ser robusta y confiable para no disminuir la confianza, señaló Bondar.
“La privacidad es clave”, dijo. “Se debe respetar la privacidad del consumidor y los datos de los clientes deben utilizarse dentro y únicamente según lo previsto”.
Eso incluye cada paso del uso de la IA, desde la recopilación inicial de datos al entrenar grandes modelos de lenguaje hasta permitir que los consumidores opten por que la IA no utilice sus datos de ninguna manera.
De hecho, entrenar la IA generativa y ver dónde falla podría ser un buen momento para eliminar datos obsoletos o irrelevantes, dijo Vikram.
VER: Microsoft retrasó el lanzamiento de su función de recuperación de IA, buscando más comentarios de la comunidad
Sugirió los siguientes métodos para mantener la confianza con los clientes al adoptar la IA:
- Proporcionar formación a los empleados sobre cómo utilizar la IA de forma segura. Centrarse en ejercicios de juegos de guerra y alfabetización mediática. Tenga en cuenta las nociones de confiabilidad de los datos de su propia organización.
- Solicite el consentimiento de los datos y/o el cumplimiento de la propiedad intelectual al desarrollar o trabajar con un modelo de IA generativa.
- Marca de agua el contenido de IA y capacita a los empleados para que reconozcan los metadatos de IA cuando sea posible.
- Proporcione una vista completa de sus modelos y capacidades de IA, siendo transparente sobre las formas en que utiliza la IA.
- Crea un centro de confianza. Un centro de confianza es una “capa de conexión digital-visual entre una organización y sus clientes donde usted enseña y comparte las últimas amenazas, las últimas prácticas (y) los últimos casos de uso que hemos visto. hacen maravillas cuando se hacen de la manera correcta”, dijo Bondar.
Es probable que las empresas de CRM ya estén siguiendo regulaciones, como la Ley de Derechos de Privacidad de California, el Reglamento General de Protección de Datos de la Unión Europea y las reglas de divulgación cibernética de la SEC, que también pueden tener un impacto en la forma en que utilizan los datos de los clientes y la IA.
Cómo SAP genera confianza en los productos de IA generativa
“En SAP, tenemos nuestro equipo de DevOps, los equipos de infraestructura, el equipo de seguridad y el equipo de cumplimiento integrados profundamente en todos y cada uno de los equipos de producto”, dijo Vikram. “Esto garantiza que cada vez que tomamos una decisión sobre un producto, cada vez que tomamos una decisión arquitectónica, pensemos en la confianza como algo desde el primer día y no como una ocurrencia tardía”.
SAP operacionaliza la confianza creando estas conexiones entre equipos, así como creando y siguiendo la política de ética de la empresa.
“Tenemos la política de que no podemos enviar nada a menos que sea aprobado por el comité de ética”, dijo Vikram. “Está aprobado por los controles de calidad… Está aprobado por las contrapartes de seguridad. Entonces, esto en realidad agrega una capa de proceso además de las cosas operativas, y la combinación de ambas realmente nos ayuda a operacionalizar la confianza o hacerla cumplir”.
Cuando SAP lanza sus propios productos de IA generativa, se aplican esas mismas políticas.
SAP ha lanzado varios productos de IA generativa, incluido CX AI Toolkit para CRM, que puede escribir y reescribir contenido, automatizar algunas tareas y analizar datos empresariales. CX AI Toolkit siempre mostrará sus fuentes cuando le solicite información, dijo Vikram; Esta es una de las formas en que SAP intenta ganarse la confianza de sus clientes que utilizan productos de IA.
Cómo incorporar la IA generativa a la organización de forma fiable
En términos generales, las empresas necesitan incorporar IA generativa y confiabilidad en sus KPI.
“Con la IA en el panorama, y especialmente con la IA generativa, hay KPI o métricas adicionales que los clientes buscan, que son como: ¿Cómo generamos confianza, transparencia y auditabilidad en los resultados que obtenemos del sistema de IA generativa? ?” dijo Vikram. “Los sistemas, por defecto o por definición, son no deterministas de alta fidelidad.
“Y ahora, para poder utilizar esas capacidades particulares en mis aplicaciones empresariales, en mis centros de ingresos, necesito tener un nivel básico de confianza. Al menos, ¿qué estamos haciendo para minimizar las alucinaciones o aportar la información adecuada?
Los tomadores de decisiones de la alta dirección están ansiosos por probar la IA, dijo Vikram, pero quieren comenzar con algunos casos de uso específicos a la vez. La velocidad a la que salen nuevos productos de IA puede chocar con este deseo de un enfoque mesurado. Son comunes las preocupaciones sobre alucinaciones o contenido de mala calidad. La IA generativa para realizar tareas legales, por ejemplo, muestra casos “generalizados” de errores.
Pero las organizaciones quieren probar la IA, afirmó Vikram. “He estado creando aplicaciones de IA durante los últimos 15 años y nunca fue así. Nunca hubo este creciente apetito, y no sólo un apetito por saber más sino por hacer más con ello”.
