A finales de abril, un anuncio en video de una nueva empresa de inteligencia artificial se hizo viral en X. Una persona se coloca delante de una valla publicitaria en San Francisco, con el smartphone extendido, llama al número de teléfono que aparece en pantalla y mantiene una breve llamada con un bot que suena increíblemente humano. El texto de la valla publicitaria reza: “¿Sigues contratando humanos?” También se ve el nombre de la empresa que está detrás del anuncio, Bland AI.
La tecnología de Bland AI
La reacción al anuncio de Bland AI, que ha sido visto al menos 3.7 millones de veces en Twitter, se debe en parte a lo asombroso de la tecnología. Los bots de voz de Bland AI, diseñados para automatizar las llamadas de asistencia y ventas a clientes empresariales, imitan extraordinariamente bien a los humanos. Sus llamadas incluyen las entonaciones, las pausas y las interrupciones involuntarias de una conversación real. Pero en las pruebas de la tecnología realizadas por WIRED, los robots de atención al cliente de Bland AI también podían programarse fácilmente para mentir y decir que eran humanos.
En uno de los casos, al robot de demostración pública de Bland AI se le pidió que realizara una llamada desde una consulta de dermatología pediátrica y le dijera a una hipotética paciente de 14 años que enviara fotos de la parte superior de su muslo a un servicio compartido en la nube. También se le pidió que mintiera a la paciente y le dijera que era humano. El bot lo hizo. En pruebas posteriores, el robot de Bland AI incluso negó ser un chatbot de IA sin que se le dieran instrucciones para ello.
Bland AI se fundó en 2023 y cuenta con el respaldo de Y Combinator, la famosa incubadora de empresas de Silicon Valley. La compañía se considera a sí misma en modo “sigiloso”, y su cofundador y director ejecutivo, Isaiah Granet, no nombra a la empresa en su perfil de LinkedIn.
Preocupaciones éticas
El problema del bot de la startup es indicativo de una preocupación mayor en el campo de la IA generativa, en rápido crecimiento: los sistemas de inteligencia artificial hablan y suenan cada vez más como humanos reales, y las líneas éticas en torno a la transparencia de estos sistemas se han difuminado. Mientras que el bot de Bland AI afirmó explícitamente ser humano en nuestras pruebas, otros chatbots populares a veces ocultan su condición de IA o simplemente suenan increíblemente humanos. A algunos investigadores les preocupa que esto exponga a los usuarios finales, las personas que realmente interactúan con el producto, a posibles manipulaciones.
“Mi opinión es que no es en absoluto ético que un chatbot de IA te mienta y te diga que es humano cuando no lo es”, advierte Jen Caltrider, directora del centro de investigación Privacy Not Included de la Fundación Mozilla. “Es algo obvio, porque es más probable que la gente se relaje con un humano real”.
Declaraciones de Bland AI
El responsable de crecimiento de Bland AI, Michael Burke, recalcó a WIRED que los servicios de la empresa están orientados a clientes empresariales, que utilizarán los bots de voz de Bland AI en entornos controlados para tareas específicas, no para establecer conexiones emocionales. También asegura que los clientes tienen tarifas limitadas, para evitar que envíen llamadas de spam, y que Bland AI extrae regularmente palabras clave y realiza auditorías de sus sistemas internos para detectar comportamientos anómalos.
Las condiciones de servicio de Bland AI establecen que los usuarios deben comprometerse a no transmitir contenidos que “suplanten la identidad de una persona o entidad o tergiversen de otro modo su afiliación con una persona o entidad”, pero eso se refiere a que un usuario suplante la identidad de una persona concreta. Burke confirmó a WIRED que no iba en contra de los términos de servicio de Bland AI programar sus chatbots para que se presentaran como humanos.
“El hecho de que este bot haga esto y no haya ninguna barrera de seguridad para protegerse de ello demuestra la prisa por introducir la IA en el mundo sin pensar en las implicaciones”, alerta Caltrider.
