La Comisión Federal de Comercio de Estados Unidos mantiene en investigación al ChatGPT, perteneciente a la compañía OpenAI, para determinar si su popular aplicación ChatGPT perjudica a los consumidores al generar información falsa y si su tecnología hace un uso inadecuado de los datos de los usuarios.
OpenAI, respaldada por Microsoft, fue notificada de la investigación en un documento de 20 páginas. El texto solicita a la empresa que describa incidentes en los que usuarios fueron falsamente difamados. Al mismo tiempo se pide que comparta los esfuerzos de la compañía para garantizar que no vuelvan a suceder.
La investigación del regulador estadounidense fue reportada en primer lugar por el diario The Washington Post. Ello después de que el lanzamiento de ChatGPT por parte de OpenAI en noviembre pasado sorprendiera al mundo al mostrar el poder de los grandes modelos de lenguaje (LLM), una forma de inteligencia artificial (IA) conocida como “IA generativa” que puede producir en segundos contenido similar al creado por el ser humano.
Tras el impacto que tuvo el ChatGPT en la sociedad, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño, llamado a veces “alucinaciones”.
La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso este miércoles 12 de julio y, aunque no mencionó la investigación, dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.
“Hemos escuchado sobre reportes en los que la información sensible de la gente aparece en respuesta a una pregunta de otra persona”, señaló Khan. Añadió: “Hemos oído hablar de calumnias, declaraciones difamatorias, cosas totalmente falsas que están surgiendo. Ese es el tipo de fraude y engaño que nos preocupa”, añadió.
La investigación de la autoridad reguladora se centra en cómo este aspecto podría perjudicar a los usuarios, según el cuestionario, pero también profundiza en el uso de datos privados por parte de OpenAI para construir su modelo, líder en el mundo.
Sobre la problemática, en un tuit, el director general de OpenAI, Sam Altman, lamentó que la noticia acerca de la investigación fuera filtrada a los medios, lo cual “no genera confianza”. Agregó que “por supuesto” OpenAI cooperará con la Comisión Federal de Comercio y aseguró que es “muy importante para nosotros que nuestra tecnología sea segura y favorable al consumidor, y estamos confiados de cumplir la ley”. La investigación de la Comisión de Comercio no implica necesariamente otras acciones y esa entidad podrá cerrar el caso si está satisfecha con la respuesta de la empresa examinada. N
(Con información de AFP)
