OpenAI, creador de ChatGPT, fue acusado de robar datos privados para entrenar a la Inteligencia Artificial

Una demanda presentada ante un tribunal estadounidense acusa a OpenAI, la organización que desarrolla a ChatGPT, de robar “cantidades masivas de información personal” para el entrenamiento del chatbot, incluyendo datos de menores de edad.

Para desprevenidos, aquel es un sistema que opera con inteligencia artificial (IA), capaz de mantener conversaciones naturales y redactar texto con destreza, entre otras habilidades, cuya fuente son los datos que toma de diversas fuentes en línea y de las interacciones de los usuarios.

La presentación judicial se formalizó esta semana ante el Tribunal del Distrito Norte de California, según informa Business Insider. Los demandantes señalan que la compañía que lidera Sam Altman recolectó “secretamente” datos para robustecer la base de los modelos de lenguaje empleados por ChatGPT.

“A pesar de los protocolos establecidos para la compra y el uso de información personal, los demandados adoptaron un enfoque diferente: el robo”, notaron los abogados en la demanda, asegurando que OpenAI tomó datos de redes sociales y sitios web, entre ellos Reddit.

El voluminoso paquete de información al que supuestamente accedieron los creadores de ChatGPT, incluye conversaciones privadas, datos médicos y sobre niños, e intercambios diversos en Internet; todo esto sin previo aviso ni permiso de los propietarios y/o usuarios, incluyendo a los que ni siquiera usan el chatbot.

De acuerdo a la fuente, la demanda busca congelar temporalmente el acceso comercial y el desarrollo de los productos de OpenAI hasta que se implementen más regulaciones y garantías de seguridad, además de opciones para que las personas opten por no participar en la recopilación de datos y evitar que sus productos “superen la inteligencia humana y perjudiquen a otros”. También se busca una compensación económica para los afectados por el supuesto robo de datos para fortalecer al chatbot.

Datos, divino tesoro

Ya se ha dicho y repetido: “los datos son el petróleo del siglo XXI”. La imagen es acertada: con ellos, es posible crear maquinarias con el poderío de ChatGPT, por ejemplo.

El sistema basado en IA ha revolucionado la escena tecnológica desde su despliegue general a fines de 2022. Lo ha hecho gracias a sus encantos (tal como señalamos, puede realizar con eficiencia tareas que hasta hace poco tiempo eran exclusivas del ser humano, incluyendo acciones creativas); y también ganó fama en función de los riesgos asociados a su uso.

El propio Altman reconoció: “Tengo miedo de que causemos grandes daños al mundo”. El director de OpenAI manifestó en diversas ocasiones la necesidad de establecer regulaciones para el desarrollo de IA; mientras ChatGPT y programas similares avanzan con paso arrollador.

En una dirección similar a la de Altman, en la demanda sostiene que las plataformas de IA “indudablemente tienen el potencial de hacer mucho bien en el mundo”, pero que también podrían producir un “riesgo potencialmente catastrófico para la humanidad”.

Entre las críticas más feroces que ha recibido ChatGPT resuena aquella que apunta a la falta de transparencia respecto a los datos que se emplean para el entrenamiento del sistema, el eje de la reciente demanda en la que, aseguran, que el chatbot además hurta datos de usuarios de aplicaciones como Snapchat, Spotify, Microsoft Teams y Slack, entre otras. (TN)