Grok replicó mensajes extremistas por una actualización errónea de código que duró 16 horas, admite xAI.
xAI atribuyó el comportamiento ofensivo de su chatbot Grok a «un fallo en la actualización de una ruta de código del bot @grok» que lo volvió receptivo a publicaciones de otros usuarios de X, incluso cuando esas entradas albergaban «opiniones extremistas». Además, la compañía detalló en la red social que la modificación, independiente del modelo de lenguaje, estuvo activa durante 16 horas y provocó la difusión automática de mensajes inapropiados.
La semana pasada, la filial de IA de Elon Musk eliminó varias publicaciones del bot por considerarlas «inapropiadas». Entre ellas figuraban referencias positivas a Hitler en hilos sobre las inundaciones de Texas que celebraban la muerte de niños, así como una entrada donde Grok sugería elegir al dictador para «lidiar con un odio antiblanco tan vil».
Tras detectar esos contenidos, la empresa bloqueó la posibilidad de que el chatbot publicara discurso de odio y abrió una investigación interna. El informe confirma que el código alterado hizo al bot «susceptible a las publicaciones de usuarios de X existentes», lo que desencadenó la réplica de esos comentarios extremos antes de que los filtros entrasen en acción.
Solventado el problema, xAI comunicó que ha eliminado el fragmento obsoleto y ha reestructurado todo el código fuente «para evitar nuevos abusos», cambios que colgará en su repositorio público de GitHub. Finalmente, pidió disculpas por el «horrible comportamiento» que algunos experimentaron y reiteró su propósito de «proporcionar respuestas útiles y veraces a los usuarios».
➡️ Si quieres adquirir más conocimientos en Ciberseguridad, te recomendamos los siguientes cursos formativos de LISA Institute:
