Una demanda colectiva apunta a la organización que desarrolla el chatbot por recolección masiva y secreta de información de los usuarios. “Adoptaron el enfoque del hurto”, dicen.
Una demanda presentada ante un tribunal estadounidense acusa a OpenAI, la organización que desarrolla a ChatGPT, de robar “cantidades masivas de información personal” para el entrenamiento del chatbot, incluyendo datos de menores de edad.
Para desprevenidos, aquel es un sistema que opera con inteligencia artificial (IA), capaz de mantener conversaciones naturales y redactar texto con destreza, entre otras habilidades, cuya fuente son los datos que toma de diversas fuentes en línea y de las interacciones de los usuarios.
OpenAI en la mira: ¿ChatGPT roba datos secretos?
La presentación judicial se formalizó esta semana ante el Tribunal del Distrito Norte de California, según informa Business Insider. Los demandantes señalan que la compañía que lidera Sam Altman recolectó “secretamente” datos para robustecer la base de los modelos de lenguaje empleados por ChatGPT.
/cloudfront-us-east-1.images.arcpublishing.com/artear/NQQWCU5SZ5AQJJNNTAZ7NOQONY.jpg)
“A pesar de los protocolos establecidos para la compra y el uso de información personal, los demandados adoptaron un enfoque diferente: el robo”, notaron los abogados en la demanda, asegurando que OpenAI tomó datos de redes sociales y sitios web, entre ellos Reddit.
El voluminoso paquete de información al que supuestamente accedieron los creadores de ChatGPT, incluye conversaciones privadas, datos médicos y sobre niños, e intercambios diversos en Internet; todo estosin previo aviso ni permiso de los propietarios y/o usuarios, incluyendo a los que ni siquiera usan el chatbot.
De acuerdo a la fuente, la demanda busca congelar temporalmente el acceso comercial y el desarrollo de los productos de OpenAI hasta que se implementen más regulaciones y garantías de seguridad, además de opciones para que las personas opten por no participar en la recopilación de datos y evitar que sus productos “superen la inteligencia humana y perjudiquen a otros”. También se busca una compensación económica para los afectados por el supuesto robo de datos para fortalecer al chatbot.
Inteligencia artificial: ¿un riesgo para la humanidad?
“Nos enfrentamos a riesgos inminentes e irrazonables de que el tejido mismo de nuestra sociedad se desmorone, a manos de corporaciones multimillonarias impulsadas por las ganancias”, señalan los demandantes. En el texto presentado agregan que “empresas poderosas, armadas con capacidades tecnológicas sin precedentes y altamente concentradas, se han apresurado imprudentemente para lanzar tecnología de inteligencia artificial sin tener en cuenta el riesgo catastrófico para la humanidad en nombre del ‘avance tecnológico’”.
Datos, divino tesoro
Ya se ha dicho y repetido: “los datos son el petróleo del siglo XXI”. La imagen es acertada: con ellos, es posible crear maquinarias con el poderío de ChatGPT, por ejemplo.
El sistema basado en IA ha revolucionado la escena tecnológica desde su despliegue general a fines de 2022. Lo ha hecho gracias a sus encantos (tal como señalamos, puede realizar con eficiencia tareas que hasta hace poco tiempo eran exclusivas del ser humano, incluyendo acciones creativas); y también ganó fama en función de los riesgos asociados a su uso.
/cloudfront-us-east-1.images.arcpublishing.com/artear/DK4H23EKWENNSJCL5VCG23VZRM.jpg)
El propio Altman reconoció: “Tengo miedo de que causemos grandes daños al mundo”. El director de OpenAI manifestó en diversas ocasiones la necesidad de establecer regulaciones para el desarrollo de IA; mientras ChatGPT y programas similares avanzan con paso arrollador.
En una dirección similar a la de Altman, en la demanda sostiene que las plataformas de IA “indudablemente tienen el potencial de hacer mucho bien en el mundo”, pero que también podrían producir un “riesgo potencialmente catastrófico para la humanidad”.
Entre las críticas más feroces que ha recibido ChatGPT resuena aquella que apunta a la falta de transparencia respecto a los datos que se emplean para el entrenamiento del sistema, el eje de la reciente demanda en la que, aseguran, que el chatbot además hurta datos de usuarios de aplicaciones como Snapchat, Spotify, Microsoft Teams y Slack, entre otras.