OpenAI, la compañía especializada en el desarrollo de la inteligencia artificial, tomó la decisión de suspender la cuenta del equipo responsable de la creación de Dean.Bot, un chatbot potenciado por ChatGPT que simulaba ser el candidato presidencial demócrata Dean Phillips, quien actualmente se encuentra en campaña.
Según reportó The Washington Post, el modelo fue diseñado por la startup Delphi para We Deserve Better, un super PAC (Comité de Acción Política) que respalda al político.
Según las normas establecidas por la empresa liderada por Sam Altman, esta práctica se encuentra en violación directa de la política de la tecnológica, la cual prohíbe la imitación de candidatos políticos a través de sus avances y desarrollo.
Por lo que esta medida representa la primera acción de Open IA, en respuesta al uso que considera indebido de sus herramientas de IA generativa.
Qué hacía el robot Dean.Bot
Este chatbot fue presentado como una herramienta avanzada de interacción con los votantes y era capaz de entablar conversaciones en tiempo real con votantes a través de un sitio web.
En esta misma página también se incluía un descargo de responsabilidad aclarando que era una herramienta de inteligencia artificial y no el verdadero Dean Phillips y finalmente, se requería el consentimiento de los votantes para su uso.
Actualmente, el sitio mantiene el aviso legal, pero el bot ha dejado de funcionar, mostrando un mensaje de “dificultades técnicas” mientras justifica con humor su ausencia: “¡Disculpas, DeanBot está haciendo campaña en este momento!”.
Actualmente, la aplicación está inactiva, bajo el anuncio de "dificultades técnicas". (Dean.Bot)
Esto mientras expertos dieron a conocer sus preocupaciones ante la posibilidad de que estas tecnologías puedan normalizar herramientas riesgosas en procesos electorales.
Sin embargo, We Deserve Better argumentó que si se utilizaban correctamente, estos robots podrían educar a los votantes de manera entretenida.
En respuesta la portavoz de OpenAI, Lindsey Held, fue contundente al asegurar que “cualquiera que construya con nuestras herramientas debe seguir nuestras políticas de uso”.
Cómo fue financiado el chatbot
La creación de Dean.Bot, se produjo después de que Matt Krisiloff y Jed Somers, empresarios de Silicon Valley, lanzaron el súper PAC We Deserve Better para apoyar a Phillips antes de las primarias de New Hampshire.
Además, este desarrollo fue financiado con un millón de dólares por parte del gestor de fondos de cobertura Bill Ackman.
Mientras que Delphi, la empresa encargada del desarrollo del bot, ejecutó la eliminación de ChatGPT de su programación y finalizó el acceso al Dean.Bot la noche del pasado viernes. Y de momento, ni Krisiloff ni Delphi han emitido comentarios adicionales sobre la suspensión.
Aunque este incidente ocurre semanas después de que OpenAI publicase en su blog oficial detalles de las acciones para evitar el mal uso de su tecnología, especialmente de cara a las elecciones de 2024, y mencionando explícitamente su restricción contra “chatbots que se hacen pasar por candidatos”.