¿Podrá la gran cumbre de Rishi Sunak salvarnos de la pesadilla de la IA?

Si no sabe cuál es su posición respecto de la IA, no está solo.

¿Salvará a la humanidad o nos destruirá? Hay tanto en juego que el jurado todavía está deliberando, incluso entre los principales expertos del mundo.

Algunos creadores de IA piden que se ralentice o incluso se detenga por completo su desarrollo porque está evolucionando demasiado rápido. Otros argumentan que hacerlo significa disminuir el potencial de la tecnología para lograr cosas asombrosas, como generar formulaciones para nuevos medicamentos y trabajar para encontrar soluciones al cambio climático.

La próxima semana, alrededor de 100 líderes mundiales, administradores de tecnología, académicos e investigadores de inteligencia artificial se reunirán en el campus de Bletchley Park en el Reino Unido, que alguna vez fue el hogar de los descifradores de códigos que ayudaron a asegurar la victoria durante la Segunda Guerra Mundial. Su propósito es participar en debates sobre la mejor manera de maximizar los beneficios de esta poderosa tecnología y al mismo tiempo minimizar los riesgos.

El evento es la Cumbre de Seguridad de la IA del Reino Unido y los riesgos en los que pretende centrarse son extremadamente graves. Se trata de la llamada “IA de frontera”, los sistemas más avanzados y potentes, que actualmente no existen pero cuya IA está avanzando tan rápido que puede suceder pronto.

Pero los críticos dicen que la reunión de dos días debería centrarse en los problemas más inmediatos y apremiantes de la inteligencia artificial, como la gran cantidad de energía que consume y el impacto que ya está teniendo en los empleos.

Quizás fue sorprendente, en este contexto de pesadilla, que el Primer Ministro Rishi Sunak instara a la gente a “no perder el sueño”. Tiene un plan, y es un plan ambicioso. Quiere posicionar al Reino Unido como líder mundial en seguridad de la IA.

Cuando se anunció por primera vez la cumbre, y fue descrita como la primera de su tipo en el mundo, causó bastante sorpresa. ¿Los altos mandos del mundo realmente viajan a un rincón remoto y frondoso de Inglaterra, en el frío del invierno y cerca del feriado de Acción de Gracias en Estados Unidos, sólo porque el Reino Unido lo dice?

No se ha publicado ninguna lista oficial de invitados. Pero ahora está claro que los gigantes tecnológicos estadounidenses estarán muy bien representados. No siempre a nivel de CEO, pero sí a nivel de ejecutivos de alto nivel.

No falta entusiasmo en lo más alto del sector comercial. Imad Mushtaq, jefe de Estabilidad de IA con sede en Gran Bretaña, describió la cumbre como una “oportunidad única en una generación” para que el Reino Unido desbloquee el estatus de superpotencia en IA.

Y añadió: «Alentaremos al gobierno y a otros responsables políticos a comprometerse a apoyar la seguridad de la IA en todo el ecosistema, desde los laboratorios corporativos hasta los investigadores comunes y desde las amenazas a largo plazo hasta los riesgos a corto plazo, para mantener a Gran Bretaña segura y competitiva».

Estas empresas son una parte clave del debate, ya que están a la vanguardia de la carrera de la IA y son quienes construyen los sistemas. Pero podrías imaginar que estas son las conversaciones que realmente tienen entre ellos. La diversidad de pensamiento aquí es crucial.

La unidad líder mundial es un poco heterogénea. Asistirá la vicepresidenta estadounidense, Kamala Harris, mientras que el primer ministro canadiense, Justin Trudeau, no asistirá. La presidenta de la Comisión Europea, Ursula von der Leyen, estará presente y el canciller alemán, Olaf Scholz, no asistirá. China fue invitada a asistir a la conferencia, que fue controvertida dada su difícil relación con Occidente. Pero sigue siendo, sin duda, una superpotencia en tecnología.

También asistirá el Secretario General de la ONU, António Guterres, lo cual es interesante dado que hay crecientes llamados para que un organismo global se haga cargo de la supervisión de la IA.

Algunos expertos temen que la cumbre se haya equivocado en sus prioridades. Dicen que el riesgo de escenarios extremos apocalípticos es relativamente pequeño y que hay amenazas más inmediatas, mucho más cercanas, que serían más preocupantes para muchas personas.

«Estamos preocupados por lo que pasará con nuestros empleos, con nuestras noticias, con nuestra capacidad de comunicarnos entre nosotros. Nos preocupan las amenazas a las personas, a las comunidades y, francamente, al planeta». ”, dice la profesora Gina Neff, directora del Centro de Inteligencia Artificial de la Universidad de Cambridge.

Un estudio reciente afirmó que la infraestructura informática necesaria para impulsar el sector de la IA por sí sola podría consumir tanta energía como un país del tamaño de los Países Bajos en sólo cuatro años. Esto no se discutirá en la cumbre.

También sabemos que la IA ya está alterando el empleo. Uno de mis amigos trabajaba en una pequeña empresa de marketing. Había cinco autores, y ahora hay uno, cuyo trabajo es verificar la versión generada por ChatGPT. El Departamento de Trabajo y Pensiones está utilizando herramientas de inteligencia artificial para acelerar las solicitudes de prestaciones.

¿Qué pasa con los datos utilizados para entrenar estos poderosos sistemas? Las empresas comerciales propietarias de los datos mantienen la confidencialidad de los mismos. Pero se puede argumentar que la IA es tan buena como los datos que comprende. Sabemos que los prejuicios y la discriminación se han infiltrado en las herramientas disponibles en el mercado y hechas a la medida.

Esto tampoco aparecerá en las discusiones de la cumbre.

¿Cuál será el resultado de este cautiverio de dos días? Se podría esperar que surjan líderes con la firma del Acuerdo de Bletchley Park y que el mundo se salve de los peligros de la inteligencia artificial.

Quizás tengamos que guardar eso para la versión cinematográfica. El propio gobierno dice que la hazaña de reunir a estas personas en la misma sala al mismo tiempo para hablar es un éxito en sí mismo, especialmente si China aparece.

El profesor Yoshua Bengio es conocido como uno de los tres “padrinos” fundadores de la inteligencia artificial. En un evento reciente organizado por Chatham House en Londres, le preguntaron qué le gustaría ver en la cumbre.

Propuso un sistema de registro y concesión de licencias para modelos de IA de vanguardia, revocable si el sistema se consideraba inseguro, pero reconoció que algo como esto podría tardar más de dos días en elaborarse.

«Tendremos que empezar con pequeños pasos que puedan implementarse rápidamente», afirmó.

Añadió: «Los tratados y acuerdos internacionales toman mucho más tiempo… pero debemos comenzar a pequeña escala y no esperar hasta construir un sistema de gobernanza global muy complejo antes de comenzar a hacer cosas».