El voto de la UE para prohibir la IA en el biomonitoreo requiere la divulgación de los sistemas de IA – Ars Technica

El miércoles, los funcionarios de la UE votaron para implementar regulaciones más estrictas propuestas con respecto a la inteligencia artificial, Según Reuters. El borrador actualizado deLey de IALa ley incluye la prohibición del uso de inteligencia artificial en Monitoreo biométrico Requiere sistemas como ChatGPT de OpenAI para detectar cuándo la IA creó el contenido. Si bien el borrador aún no es vinculante, da una fuerte indicación de cómo los reguladores de la UE piensan sobre la IA.

Los nuevos cambios a la ley propuesta por la Comisión Europea, que aún no se han finalizado, tienen como objetivo proteger a los ciudadanos de la UE de las amenazas potenciales asociadas con la tecnología de aprendizaje automático.

Los cambios se producen en medio de la proliferación de sistemas generativos de IA que imitan las capacidades conversacionales humanas, como ChatGPT y GPT-4 de OpenAI, que han provocado controvertidos llamados a la acción entre los científicos de IA y los ejecutivos de la industria con respecto a los posibles riesgos sociales. Sin embargo, la ley de IA propuesta por la UE tiene más de dos años, por lo que no es solo una respuesta rápida al bombo de la IA. Incluye disposiciones que protegen contra otros tipos de daños de la IA que actualmente están más arraigados que la adquisición virtual de la IA.

“Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus innovaciones, Europa ha avanzado y ha propuesto una respuesta concreta a los riesgos que la IA está empezando a plantear”, dijo Brando Benifee, uno de los ponentes del proyecto de ley. (Un copatrocinador es como un copatrocinador de un proyecto de ley en el Congreso de los EE. UU., compartiendo la responsabilidad con otra persona para redactar y guiar la legislación propuesta a través del proceso legislativo).

El nuevo proyecto de ley de IA incluye una disposición que prohíbe a las empresas extraer datos biométricos (como fotos de usuarios) de las redes sociales con fines de capacitación en reconocimiento facial. Compañías de noticias como Clearview AI están utilizando esta práctica para crear sistemas de reconocimiento facial. Críticas severas defensores de la privacidad en 2020. Sin embargo, Reuters señala que esta regla podría ser una fuente de controversia con algunos países de la UE que se oponen a las prohibiciones generales de la IA en la biovigilancia.

El nuevo borrador de la UE también impone medidas de divulgación y transparencia sobre la IA generativa. Se requerirán servicios de agregación de imágenes como Midjourney para detectar contenido generado por IA para ayudar a las personas a identificar imágenes compuestas. El proyecto de ley también requeriría que las empresas de IA generativa proporcionen resúmenes del material con derechos de autor que se extrajo y utilizó para entrenar cada sistema. Si bien la industria editorial apoya esta propuesta, de acuerdo a En el New York Times, los desarrolladores de la tecnología argumentan en contra de su viabilidad técnica.

Además, los creadores de sistemas de IA generativa deberán implementar salvaguardas para evitar la creación de contenido ilegal, y las empresas que trabajan en «aplicaciones de alto riesgo» deben evaluar su impacto potencial en los derechos fundamentales y el medio ambiente. El borrador actual de la ley de la UE define los sistemas de IA que pueden influir en los votantes y las elecciones como de «alto riesgo». También clasifica los sistemas utilizados por las plataformas de redes sociales con más de 45 millones de usuarios en la misma categoría, por lo que incluye plataformas como Meta y Twitter.

Según Reuters, Microsoft e IBM aplauden las nuevas reglas propuestas por los legisladores de la UE, aunque esperan que se perfeccione aún más la legislación propuesta. “Creemos que la IA requiere barreras legislativas, esfuerzos de armonización a nivel internacional y acciones voluntarias específicas por parte de las empresas que desarrollan e implementan la IA”, dijo un portavoz de Microsoft al servicio de noticias.

Sin embargo, a pesar de los crecientes llamados a la regulación de la IA, algunas empresas como Meta han subestimado Amenazas potenciales para los sistemas de aprendizaje automático. En una conferencia en París el miércoles, el científico jefe de IA de Meta, Yann LeCun, dijo: «La IA es intrínsecamente buena porque el efecto de la IA es hacer que las personas sean más inteligentes».

Además, algunos críticos creen que la alarma sobre el peligro existencial de los sistemas de IA es Exagerado Y solo sirve para ayudar a empresas como Microsoft y OpenAI a lograr Captura regulatoria– Utilizar su influencia e influencia para moldear regulaciones a su favor. Sobre la posible regulación de la IA en los EE. UU., los críticos argumentan que permitir que los gigantes tecnológicos escriban las reglas podría dañar a las empresas más pequeñas y sofocar la competencia.

La Comisión Europea presentó por primera vez un dossier Proyecto de Normas de Amnistía Internacional en abril de 2021, y algunos lo criticaron lento de regulaciones en el escenario mundial, pero con la tecnología cambiando tan rápido, es difícil mantenerse al día. El jefe de industria de la UE, Thierry Breton, enfatizó la necesidad de una acción rápida en lugar de retrasar el progreso. «La inteligencia artificial plantea muchas preguntas: sociales, éticas y económicas», dijo. «Pero ahora no es el momento de presionar ningún ‘botón de pausa’. Por el contrario, se trata de actuar rápidamente y asumir la responsabilidad».

Los expertos dicen que después de mucho debate sobre las nuevas reglas entre los estados miembros de la UE, no se espera una versión final de la ley de IA hasta finales de este año.