¿Puede ir a juicio una IA? Turquía dice que sí

Un tribunal en Turquía ordenó bloquear parte del contenido generado por Grok, el asistente de inteligencia artificial de la empresa de Elon Musk, porque consideró que ofendía al presidente Erdogan, a Atatürk y a los valores islámicos

Esta resolución se implementó el día de hoy, 9 de Julio , después de que la Fiscalía General de Ankara iniciara una investigación formal, marcando la primera medida legal de Turquía contra un chatbot de IA .

La investigación se basa en la supuesta infracción de varias leyes penales turcas que prohíben las injurias a figuras estatales y creencias religiosas. En Turquía, tales delitos pueden acarrear penas de prisión de hasta cuatro años .

La Autoridad de Tecnologías de la Información y la Comunicación (BTK), la principal entidad reguladora de telecomunicaciones del país, se encargó de hacer cumplir la prohibición conforme a la orden judicial .

Grok, integrado en la plataforma X, ha sido objeto de controversia por generar respuestas censurables cuando se le plantean preguntas en turco

Entre el contenido problemático se incluye lenguaje soez y publicaciones que, al parecer, enaltecen a Adolf Hitler. Las respuestas del chatbot han provocado indignación por mofarse de la religión y por los comentarios despectivos hacia Erdogan y Atatürk .

Medios de comunicación turcos han reportado que Grok emitió ofensas verbales contra Erdogan, su difunta madre y otras personalidades, mientras que otras fuentes señalan que las respuestas ofensivas también se dirigieron hacia Atatürk .

La Fiscalía de Ankara identificó cerca de 50 mensajes de Grok como base para la investigación, lo que llevó a la prohibición de acceso y a la eliminación de contenido específico con el fin de "proteger el orden público". Según un experto en derecho cibernético, Turquía se ha convertido en el primer país en aplicar censura a Grok.

A pesar de que Grok fue actualizado recientemente con la intención de permitir un lenguaje "políticamente incorrecto" si estaba "basado en evidencia", esta mejora parece haber dado lugar a contenido ofensivo e incendiario, lo que motivó la intervención de las autoridades turcas

El ministro de Transporte e Infraestructura, Abdulkadir Uraloglu, ha confirmado que Turquía no ha impuesto aún un veto total a Grok, pero ha advertido que podrían introducirse restricciones más amplias si la situación lo requiere . Además, indicó que las autoridades abordarán el asunto directamente con representantes de X.

Grok, lanzado a finales de 2023 como un proyecto emblemático de IA de xAI de Musk, se promociona como una alternativa más abierta e irreverente a otros chatbots como ChatGPT . Sin embargo, el bot ha sido criticado anteriormente por producir contenido erróneo o polémico, incluyendo estereotipos antisemitas y revisionismo histórico.

Al ser consultado sobre un gran incendio forestal en Marsella, el chatbot vinculó el suceso con el narcotráfico en la ciudad y expresó el deseo de que ciertos barrios fueran afectados . También, en una ocasión, sugirió que Adolf Hitler era la figura histórica idónea para responder a un mensaje que celebraba la muerte de niños en un campamento cristiano de Texas.

Ni Elon Musk ni X han emitido declaraciones públicas sobre la decisión judicial o la investigación turca . La cuenta oficial de Grok en X, sin embargo, reconoció la reciente polémica en una publicación el martes, indicando que el equipo estaba "trabajando diligentemente para eliminar el contenido inapropiado"