EEUU investiga a ChatGPT por posible contenido dañino

La Comisión Federal de Comercio estadounidense investiga a la compañía OpenAI para determinar si su popular aplicación ChatGPT perjudica a los consumidores al generar información falsa y si su tecnología hace un uso inadecuado de los datos de los usuarios.

OpenAI, respaldada por Microsoft, fue notificada de la pesquisa en un cuestionario de 20 páginas, en el que se le pide a la empresa que describa incidentes en los que usuarios fueron falsamente difamados y que comparta los esfuerzos de la compañía para garantizar que no vuelvan a suceder.

La investigación del regulador estadounidense fue reportada en primer lugar por el diario The Washington Post.

En medio del revuelo por las capacidades de la tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño, llamado a veces “alucinaciones”.

La presidenta de la Comisión de Comercio, Lina Khan, se dirigió a una audiencia del comité del Congreso el miércoles y, aunque no mencionó la investigación, dijo a los legisladores que su agencia tenía preocupaciones sobre la producción potencialmente difamatoria de ChatGPT.

“Hemos escuchado sobre reportes en los que la información sensible de la gente aparece en respuesta a una pregunta de otra persona”, señaló Khan.

“Hemos oído hablar de calumnias, declaraciones difamatorias, cosas totalmente falsas que están surgiendo. Ese es el tipo de fraude y engaño que nos preocupa”, añadió.

La investigación de la autoridad reguladora se centra en cómo este aspecto podría perjudicar a los usuarios, según el cuestionario, pero también profundiza en el uso de datos privados por parte de OpenAI para construir su modelo, líder en el mundo.

En un tuit, el director general de OpenAI, Sam Altman, lamentó que la noticia acerca de la investigación fuera filtrada a los medios, lo cual “no genera confianza”.

Agregó que “por supuesto” OpenAI cooperará con la Comisión Federal de Comercio y aseguró que es “muy importante para nosotros que nuestra tecnología sea segura y favorable al consumidor, y estamos confiados de cumplir la ley”.

Una investigación de la Comisión de Comercio no implica necesariamente otras acciones y esa entidad podrá cerrar el caso si está satisfecha con la respuesta de la empresa examinada.

Si el regulador percibe prácticas ilegales o inseguras, exigirá medidas correctivas y posiblemente iniciará una demanda.

OpenAI y la Comisión de Comercio no respondieron a una solicitud de comentarios.

Google anunció este jueves el lanzamiento de Bard, su competidor de ChatGPT, en medio centenar de nuevos países, entre ellos la Unión Europea (UE) y Brasil, que hasta ahora había evitado por motivos regulatorios.

“Bard ya está disponible en la mayoría de los países del mundo y en los idiomas más hablados”, afirmó en una entrada de blog el gigante estadounidense, que en febrero presentó su propia herramienta de Inteligencia Artificial (IA) en respuesta a ChatGPT, el software estrella de OpenAI financiado principalmente por Microsoft.

“Hemos colaborado de forma proactiva con expertos, responsables y reguladores para llevar a cabo esta expansión”, precisó Google.

El retraso en el lanzamiento de Bard en la UE había sido interpretado como una precaución de Google ante el deseo de Bruselas de regular los algoritmos de la Inteligencia Artificial, que provocan temores en materia de respeto a la vida privada, a la propiedad intelectual o frente a la desinformación.

Alphabet (matriz de Google) había lanzado en Brasil hace unos meses una campaña de comunicación contra un proyecto de regulación de los contenidos en internet.

Bard era una herramienta trilingüe (inglés, japonés y coreano) y a partir de ahora podrá expresarse en unas 40 lenguas, como el árabe, el alemán, el chino, el español, el francés y el hindi, según Google.

También podrá comunicar sus respuestas oralmente, adaptar el estilo de sus respuestas en un lenguaje informal o profesional o extraer informaciones a partir de una imagen.

Bard es capaz de reanudar una conversación suspendida temporalmente, una funcionalidad ya disponible en ChatGPT.

Los robots conversacionales son presentados como una alternativa a la investigación en línea tradicional, y desde noviembre de 2022 han conocido un éxito fulgurante, con la aparición de ChatGPT.

Esta aplicación ya está incorporada al portal de búsqueda Bing y a otras herramientas del gigante estadounidense Microsoft, que financia ChatGPT.