No use código generado por Bard • The Register

IA en resumen Google ha advertido a sus empleados que no divulguen información confidencial ni utilicen código generado por su chatbot, Bard.

Esta política no sorprende, dado que la fábrica de chocolate también aconsejó a los usuarios que no incluyan información confidencial en sus conversaciones con Bard en un aviso de privacidad actualizado. Del mismo modo, otras grandes empresas han advertido a sus empleados sobre la filtración de documentos o códigos de propiedad y les han prohibido el uso de otros chatbots de IA.

Sin embargo, la advertencia interna de Google plantea preocupaciones de que no se puede confiar en las herramientas de inteligencia artificial creadas a partir de intereses creados, especialmente si los propios creadores de contenido no las usan debido a riesgos de privacidad y seguridad.

Advertir a sus empleados contra el uso de código generado por Bard socava directamente las afirmaciones de Google de que su chatbot puede ayudar a los desarrolladores a ser más productivos. Dominador de la búsqueda y los anuncios. Decir Reuters Su bloqueo interno se introdujo porque Bard puede eliminar «sugerencias de código no solicitadas». Los problemas pueden resultar potencialmente en un software inflado o con errores que les costará a los desarrolladores más tiempo para solucionarlo que si no usaran IA para la codificación en absoluto.

Un fabricante de IA de audio respaldado por Microsoft ha sido demandado

Nuance, un desarrollador de software de reconocimiento de voz adquirido por Microsoft, ha sido acusado de grabar y usar las voces de las personas sin permiso en una demanda enmendada presentada la semana pasada.

Tres personas han demandado a la empresa, acusándola de violar la Ley de invasión de la privacidad de California, que establece que las empresas no pueden espiar las comunicaciones de los consumidores ni grabar a las personas sin su consentimiento expreso por escrito. Los fiscales alegan que Nuance graba las voces de las personas en llamadas telefónicas con centros de llamadas que usan su tecnología para verificar a la persona que llama.

Los fiscales afirmaron que «Nuance realiza todo su audiograma en el ‘fondo de cada publicación’ o llamada telefónica». En otras palabras, Nuance escucha la voz del consumidor en silencio en el fondo de la llamada, de manera que es probable que los consumidores no se den cuenta de que están interactuando inadvertidamente con una empresa de terceros. El proceso de análisis es un componente central de la suite de seguridad biométrica, en general para Nuance».

Argumentan que grabar las voces de las personas las pone en riesgo (pueden identificarse cuando se habla de información personal confidencial) y significa que sus voces pueden clonarse para eludir las funciones de seguridad de Nuance.

“Si no se controlan, los californianos corren el riesgo de que terceros analicen sus votos y los extraigan inadvertidamente para tomar diversas decisiones sobre su estilo de vida, salud, credibilidad y confiabilidad, y sobre todo para determinar si realmente son quienes dicen ser. ”, argumentan los documentos judiciales.

registro Se le ha pedido a Nuance que comente.

Google no apoya la idea de una nueva agencia federal reguladora de la inteligencia artificial

El laboratorio de inteligencia artificial DeepMind de Google no quiere que el gobierno de EE. UU. establezca una agencia enfocada únicamente en regular la inteligencia artificial.

En cambio, cree que el trabajo debe dividirse entre diferentes departamentos, de acuerdo con informe de 33 paginas [PDF] que recibió El Correo de Washington. El documento fue presentado en respuesta a una solicitud abierta de comentarios públicos lanzada por la Administración Nacional de Telecomunicaciones e Información en abril.

La rama de IA de Google abogó por un «enfoque en capas de múltiples partes interesadas para la gobernanza de la IA» y apoyo para un «enfoque de centro y conversación», donde un organismo central como NIST podría supervisar las políticas y los problemas abordados por muchas agencias con diferentes áreas de experiencia. .

“IA introducirá problemas únicos en los servicios financieros, la atención médica y otras industrias reguladas y áreas temáticas que se beneficiarán de la experiencia de los reguladores experimentados en esos sectores, y que funcionan mejor que una nueva agencia reguladora que emite y hace cumplir reglas sin procesar que no son tan adaptables a los diversos contextos en los que se llevan a cabo.” en los que desplegar la inteligencia artificial.”

La opinión de Google DeepMind difiere de la de otras empresas, incluidas OpenAI y Microsoft, expertos en políticas y legisladores que apoyan la idea de crear una agencia centrada en la IA para abordar la regulación.

Microsoft se apresuró a lanzar el nuevo Bing a pesar de las advertencias de OpenAI

Según los informes, OpenAI advirtió a Microsoft que no lanzara un chatbot de Bing con tecnología GPT-4 demasiado rápido, argumentando que podría generar información falsa y lenguaje inapropiado.

Bing sorprendió a los usuarios con su tono de voz intimidante y, a veces, con su comportamiento manipulador o amenazante cuando se lanzó. Más tarde, Microsoft restringió las conversaciones para evitar que el chatbot se descarrilara. OpenAI había instado previamente al gigante tecnológico a retirarse del lanzamiento del producto para trabajar en sus problemas.

Pero Microsoft no pareció escuchar y siguió adelante de todos modos, de acuerdo a a Wall Street Journal. Sin embargo, este no fue el único conflicto entre los defensores de la IA. Meses antes del lanzamiento de Bing, OpenAI lanzó ChatGPT a pesar de las preocupaciones de Microsoft de que podría quitarle el protagonismo al motor de búsqueda web impulsado por IA.

Microsoft posee una participación del 49 por ciento en OpenAI y tiene acceso e implementación de la tecnología de la startup antes que la competencia. A diferencia de GPT-3, Microsoft no tiene derechos exclusivos para licenciar GPT-4. A veces, esto puede complicar las cosas: OpenAI a menudo corteja a los mismos clientes que Microsoft u otras empresas que compiten directamente por su inversor.

Con el tiempo, esto puede dificultar su relación. “Lo que los pone en curso de colisión es que ambas partes necesitan ganar dinero”, dijo Oren Etzuni, exdirector ejecutivo del Instituto Allen de Inteligencia Artificial. El conflicto es que ambos intentarán ganar dinero usando productos similares. ®