Google, uno de los mayores defensores de la IA, advierte a sus empleados sobre los chatbots, ETHRWorldSEA

Los chatbots, entre ellos Bard y ChatGPT, son programas similares a los humanos que utilizan la llamada inteligencia artificial generativa para conversar con los usuarios y responder a innumerables indicaciones.

Escrita por Jeffrey Dustin y Anna Tong

SAN FRANCISCO (AP) — Alphabet Inc está advirtiendo a los empleados sobre cómo están usando los chatbots, incluido su Bard, al mismo tiempo que comercializa el software en todo el mundo, dijeron a Reuters cuatro personas familiarizadas con el asunto.

La matriz de Google aconsejó a los empleados que no ingresen sus materiales confidenciales en los chatbots inteligentes, dijeron las personas y la compañía confirmó, citando una política de larga data sobre protección de la información.

Los chatbots, entre ellos Bard y ChatGPT, son programas similares a los humanos que utilizan la llamada inteligencia artificial generativa para conversar con los usuarios y responder a innumerables indicaciones. Los revisores pueden leer los chats, y los investigadores han descubierto que una IA similar puede reproducir datos que absorbió durante el entrenamiento, creando un riesgo de fuga.

Algunas personas dijeron que Alphabet también advirtió a sus ingenieros que evitaran el uso directo del código de computadora que podrían generar los chatbots.

Cuando se le pidió un comentario, la compañía dijo que Bard puede hacer sugerencias de código no solicitadas, pero que de todos modos ayuda a los programadores. Google también dijo que pretende ser transparente sobre las limitaciones de su tecnología.

Las preocupaciones muestran cómo Google quiere evitar el daño comercial de los programas que ha lanzado en competencia con ChatGPT. Lo que está en juego en la carrera de Google contra los patrocinadores de ChatGPT OpenAI y Microsoft Corp son miles de millones de dólares en inversión y publicidad e ingresos en la nube aún no revelados del nuevo software de IA.

La advertencia de Google también refleja lo que se ha convertido en un estándar de seguridad para las empresas, advirtiendo a las personas que no utilicen chatbots disponibles públicamente.

Un número cada vez mayor de empresas en todo el mundo han puesto cajas de arena en los chatbots de IA, dijeron las empresas a Reuters, entre ellas Samsung, Amazon.com y Deutsche Bank. Según se informa, Apple, que no respondió a las solicitudes de comentarios, también lo hizo.

Alrededor del 43 % de los profesionales usaban ChatGPT u otras herramientas de inteligencia artificial a partir de enero, a menudo sin decirle a sus jefes, según una encuesta de casi 12,000 encuestados, incluidas las principales empresas con sede en EE. UU., realizada por el sitio de la red Fishbowl.

En febrero, Google pidió a los empleados que probaron el Bard antes de su lanzamiento que no le dieran información privilegiada, informó Insider. Google ahora implementa Bard en más de 180 países y en 40 idiomas como un trampolín para la creatividad, y sus advertencias se extienden a sus sugerencias de código.

Google dijo a Reuters que ha mantenido conversaciones detalladas con la Comisión de Protección de Datos de Irlanda para abordar las preguntas de los reguladores, luego del informe de Politico el martes de que la compañía estaba retrasando el lanzamiento de Bard en la UE esta semana a la espera de más información sobre el impacto del chatbot en la privacidad.

Inquietudes sobre la información sensible

Dicha tecnología puede crear correos electrónicos, documentos e incluso los propios programas, lo que promete acelerar las tareas de manera exponencial. Sin embargo, este contenido podría incluir información falsa, datos confidenciales o incluso pasajes protegidos por derechos de autor de la novela «Harry Potter».

El aviso de privacidad de Google, actualizado el 1 de junio, también establece: «No incluya información confidencial o delicada en sus conversaciones con Bard».

Algunas empresas han desarrollado software para hacer frente a estas preocupaciones. Por ejemplo, Cloudflare, que defiende los sitios web contra los ataques cibernéticos y ofrece otros servicios en la nube, comercializa la capacidad de las empresas para marcar y restringir el flujo de salida de ciertos datos.

Google y Microsoft también ofrecen herramientas de conversación a clientes comerciales que cobrarán un precio más alto pero se abstendrán de incorporar datos en modelos genéricos de IA. La configuración predeterminada en Bard y ChatGPT es guardar el historial de chat de los usuarios, que los usuarios pueden optar por eliminar.

Yousef Mahdi, director de marketing de consumo de Microsoft, dijo que «tiene sentido» que las empresas no quieran que sus empleados usen chatbots públicos en el trabajo.

“Las empresas están adoptando una visión conservadora”, dijo Mehdi, explicando cómo se compara el chatbot Bing gratuito de Microsoft con su software empresarial. «Allí, nuestras políticas son mucho más estrictas».

Microsoft se negó a comentar si tenía una prohibición general para que los empleados ingresen información confidencial en los programas públicos de inteligencia artificial, incluido el suyo propio, aunque otro ejecutivo dijo a Reuters que había restringido personalmente su uso.

Escribir asuntos confidenciales en chatbots era como «dejar caer a un grupo de estudiantes de doctorado sobre sus registros privados», dijo el CEO de Cloudflare, Matthew Prince.

(Reporte de Jeffrey Dustin y Anna Tong en San Francisco; Editado por Kenneth Lee y Nick Zieminski)