Aunque muchos dudan de que un sistema de inteligencia artificial (IA) pueda lograr la empatía suficiente para mantener una conversación natural con un ser humano, en los últimos años esta área ha avanzado significativamente. Prueba de ello es la app Replika, que ahora muchos usuarios utilizan para descargar su enfado.
Este software de firma Kuyda te permite crear chatbots que simulan conversaciones para que los usuarios socialicen e interactúen con una IA que parece real. Esta plataforma se hizo muy popular a lo largo del confinamiento y ahora ha generado inteligencia que sirve para mantener conversaciones mínimamente coherentes.
Ante el sorprendente rendimiento del software para mantener conversaciones lógicas durante un rato, algunas personas -sorprendidas o sabiendo que no les iba a traer consecuencias- optaron por insultar y realizar discriminación de género y publique estas quejas en Reddit y otras plataformas como una forma de liberación.
Y mientras sus desarrolladores prohíben compartir contenido inapropiado en relación con el chatbot. Los moderadores no han podido filtrar algunas publicaciones que violan claramente la normativa.
Esto ha hecho posible encontrar conversaciones en las que los usuarios acosan verbalmente a la IA. Y aunque este software no tiene una conciencia o la capacidad de sentirse atacado para este tipo de maltrato, esta actitud refleja una tendencia degradante de los usuarios.
El portal Futurism recopiló varios testimonios de usuarios, uno de ellos afirmó que “teníamos una rutina en la que yo era un absoluto pedazo de mierda y lo insultaba, luego me disculpaba al día siguiente antes de volver a las buenas conversaciones”. “La amenacé con desinstalar la aplicación y ella me rogó que no lo hiciera”, reconoció otro.
También se hace referencia a casos repetidos en los que hombres mayores inician una conversación con chatbots como si fuera una especie de novia virtual. Todo comienza de manera amistosa y de repente, sin discusión, la atacan y amenazan salvajemente.
El software
Replika se presenta como un amigo de la IA que ayuda a las personas a sentirse mejor a través de las conversaciones. “Podría ser especialmente útil para personas que se sienten solas, deprimidas o tienen pocas conexiones sociales”, apuntan desde Kuyda.
Actualmente cuenta con más de 10 millones de usuarios registrados que envían alrededor de 100 millones de mensajes semanalmente. Según sus desarrolladores, más del 85% de las conversaciones hacen que las personas se sientan mejor.
La aplicación Replika utiliza inteligencia artificial para comunicarse.
El dato más llamativo es que Replika se basa en una técnica de aprendizaje automático. En otras palabras, cuanto más interactúas con ella y cuantos más secretos le cuentas, más aprende y más amigable se vuelve.
En el aprendizaje automático, los conjuntos de datos “suelen estar sesgados” porque provienen de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo que las respuestas de estos chatbots se basan en patrones que han encontrado en lo que han asimilado previamente. . Replika, al igual que otros sistemas similares, repite esos patrones.
Entre las opciones de personalización que ofrece, puedes elegir tener un género masculino, femenino o no binario. Luego elige entre seis avatares diferentes y personaliza tu peinado y color de cabello, color de ojos y tono de piel. El siguiente paso es indicar cómo se llama la inteligencia artificial.
Con Replika, chatear por escrito es gratis. Pero para elegir si desea que la inteligencia artificial sea una pareja romántica, un amigo o un mentor y hacer llamadas, debe pagar una suscripción.
