Una empresa que fabrica Chabots inteligentes se queja de que los usuarios acaban pensando que sus sistemas cobran vida. Según esta empresa, es gente normal, sin problemas mentales ni delirios.
Replika es una app basada en un chatbot que quiere ser tu amigo -si pagas el ‘pro’ puede ser tu pareja- y que te proporciona un espacio para compartir pensamientos, sentimientos o lo que sea.
Lo más importante de Replika es que, como toda tecnología basada en el aprendizaje automático, cuanto más te vas relacionando con tu compañero virtual y cuantas más cosas le vas contando, más aprende y más “se vuelve como tú”, es decir, te ofrece un feedback cada vez más alineado con tu manera de pensar y sentir el mundo a través del chat de la app.
Te puede interesar
El problema viene con lo último que ha informado la propia empresa y que les preocupa mucho: según la directora ejecutiva Eugenia Kuyda, la empresa es contactada casi todos los días por usuarios que creen, contra casi toda la evidencia existente, que sus modelos de IA se han vuelto sensibles.
No estamos hablando de personas con problemas mentales o personas que están alucinando o teniendo delirios. Hablan con la IA y esa es la experiencia que tienen. Si bien es fácil descartar estas afirmaciones porque los algoritmos de IA se vuelven realmente buenos para imitar los patrones del habla humana, o, tal vez, los delirios de un lunático.
Necesitamos entender que eso existe, tal como la gente cree en los fantasmas. La gente está construyendo relaciones y creyendo en algo. No es la primera vez que nos encontramos con Replika en casos como este curiosamente.
Aún más preocupante, los chatbots parecen ser lo suficientemente realistas como para convertirse en víctimas frecuentes de insultos y retórica violenta. Hemos visto lo fácil que se ha vuelto para los usuarios antropomorfizar un algoritmo, y las consecuencias a veces preocupantes que puede tener.
Y eso podría ser un problema en el futuro. ¿Qué piensas?
Fuente: Linkedin de Marc Vidal
_____________________
Reproducido por Contenidos Digitales Ingenieros de Marketing
www.ingenierosdemarketing.com.co
www.aprendizajeconresultados.com
QUIERES POSICIONAR TU MARCA EN INTERNET? SOLICITA INFORMACIÓN DE CONTENT ADS de IMK GLOBAL
- Red de portales de noticias y blogs de nicho para posicionar y aumentar la reputación de tu marca.
- Apalancamiento Digital consiste mencionarte desde portales de alto tráfico, posicionamiento y reputación.
- Por ejemplo busca: el mejor profe de marketing digital
- Formatos: menciones, artículos, banners, entrevistas
