En una reunión innovadora, los principales directores ejecutivos de tecnología se reunieron con senadores de los Estados Unidos y líderes de la sociedad civil en Washington, DC, para el AI Insight Forum.
El líder de la mayoría del Senado, Chuck Schumer, describió la histórica reunión en declaraciones ante el Senado una semana antes del evento.
“Será una reunión como ninguna otra que hayamos visto en el Senado en mucho tiempo, tal vez nunca: una reunión de las principales voces de los negocios, los derechos civiles, la defensa, la investigación, el trabajo, las artes, todos juntos, en una sala, teniendo una conversación muy necesaria sobre cómo el Congreso puede abordar la IA”.
El objetivo era analizar en profundidad el complejo panorama de la regulación de la inteligencia artificial (IA).
PRIMERA VISTA:
¡Nuestro primer foro bipartidista AI Insight está comenzando ahora! Estamos convocando a este grupo equilibrado y diverso para hablar sobre cómo el Congreso debe unirse a la revolución de la IA.
Necesitamos todas las manos a la obra para maximizar los beneficios sociales de la IA y al mismo tiempo minimizar sus numerosos riesgos. pic.twitter.com/0ZYiwIzFUp
—Chuck Schumer (@SenSchumer) 13 de septiembre de 2023
Al foro asistieron ejecutivos de Tesla, Meta, OpenAI, Google, Microsoft, NVIDIA e IBM.
Lista completa del foro de conocimientos sobre inteligencia artificial de Schumer: pic.twitter.com/b9mJhW39NW
— María Cristina Curi (@m_ccuri) 30 de agosto de 2023
Aunque la sesión fue privada, los medios capturaron algunos momentos en los que los líderes tecnológicos se reunieron.
Magnates de la tecnología con un patrimonio neto combinado de aproximadamente 550 mil millones de dólares se reunieron en la misma sala el miércoles para un foro del Senado sobre el futuro y la regulación de la IA https://t.co/otlPQ1bPpm pic.twitter.com/NFZq41FJM1
–Bloomberg (@business) 13 de septiembre de 2023
Como se describe en un comunicado de prensa del senador Jack Reed, esta fue la primera de nueve sesiones para ayudar a los formuladores de políticas a comprender mejor la tecnología de inteligencia artificial y sus posibles impactos en la sociedad.
“La IA tiene el potencial de impulsar una nueva transformación en la economía global y conducir a todo tipo de avances tecnológicos y sociales. Estados Unidos debe mirar hacia el futuro y comprender los desafíos y riesgos, al mismo tiempo que garantiza que se mantenga a la vanguardia del liderazgo digital y tecnológico”.
Importancia de implementar la regulación de la IA
En sus comentarios de apertura, Schumer reconoció que si bien las grandes empresas tecnológicas como OpenAI, Google y Microsoft se han comprometido con el desarrollo responsable de la IA, el Congreso debe intervenir antes de que sea demasiado tarde.
“El gobierno debe desempeñar un papel al exigir estas salvaguardias. Porque incluso si las empresas individuales promueven salvaguardias, siempre habrá actores deshonestos, empresas sin escrúpulos y adversarios extranjeros que buscarán hacernos daño. Y en el aspecto transformacional, otros gobiernos, incluidos adversarios como China, están invirtiendo enormes recursos para salir adelante. Podríamos quedarnos atrás, en detrimento de nuestra seguridad nacional”.
Si bien a algunos líderes tecnológicos les preocupaba que una regulación excesiva pudiera impedir que Estados Unidos liderara el avance de la IA, la mayoría coincidió en que se necesitan regulaciones.
1. La IA tiene la capacidad de hacer grandes cosas. También encierra muchas incertidumbres y potencial de daño público.
2. Hay poca o ninguna responsabilidad pública por la IA, y el Congreso debe actuar para minimizar el daño y maximizar el beneficio público.
— Senator Ben Ray Luján (@SenatorLujan) 13 de septiembre de 2023
Comentarios preparados de los directores ejecutivos de tecnología sobre el desarrollo responsable de la IA
Clement Delangue, director ejecutivo de Hugging Face, destacó la importancia de la coordinación intersectorial para el desarrollo de una IA segura y responsable.
Subrayó la misión de Hugging Face de democratizar el aprendizaje automático a través de la apertura, incluida la comunicación pública, la ciencia abierta y las iniciativas de código abierto.
Delangue también destacó el arma de doble filo de la IA, elogiando su potencial para la innovación y advirtiendo al mismo tiempo contra los riesgos existentes, como la desinformación y las preocupaciones éticas, y pidiendo orientación política en esta coyuntura crucial en la investigación y el desarrollo de la IA.
En aras de la transparencia, encontrarán a continuación mi discurso de apertura en @SenSchumerEl foro AI Insight de hoy, gracias a @IreneSolaiman @madisenxtaylor con aportes de muchos @huggingface miembros del equipo y miembros de la comunidad.
Conversación súper constructiva con @ruchowdh… pic.twitter.com/txqKsK1AJN
– Clemente 🤗 (@ClementDelangue) 13 de septiembre de 2023
El director ejecutivo de Meta, Mark Zuckerberg, enfatizó el papel de liderazgo de Estados Unidos en la innovación en IA y pidió al Congreso que participe de manera proactiva en la configuración del futuro de la tecnología.
Describió dos cuestiones clave a las que se enfrenta la IA: la seguridad y el acceso.
En cuanto a la seguridad, detalló los esfuerzos de Meta para incorporar salvaguardias en sus modelos y productos de IA, incluidas asociaciones con académicos y otros expertos sociales.
Sobre la cuestión del acceso, destacó el enfoque equilibrado de Meta hacia el abastecimiento abierto, abogando por el liderazgo estadounidense en el establecimiento de estándares técnicos globales y al mismo tiempo creando medidas de protección.
“Tener acceso a IA de última generación será un impulsor de oportunidades cada vez más importante en el futuro, y creo que eso será cierto para las personas, las empresas y las economías en su conjunto”.
Riesgos que plantean los modelos de IA de código abierto
Tristan Harris, director del Center for Humane Technology, una organización sin fines de lucro, mencionó específicamente el modelo Llama 2 de Meta, lanzado en asociación con Microsoft.
Según los asistentes, Harris afirmó que su organización sin fines de lucro convenció al modelo Llama 2 para que proporcionara instrucciones para crear compuestos biológicos peligrosos.
Zuckerberg respondió afirmando que ya se puede acceder a instrucciones similares en Internet.
Después de escuchar a los directores ejecutivos y líderes de las grandes empresas tecnológicas en el AI Insight Forum de hoy, está claro que necesitamos una nueva agencia independiente para regular la IA y las redes sociales.
No podemos permitir que estas empresas sigan transformando la vida estadounidense sin barreras de seguridad.
– Michael Bennet (@SenatorBennet) 13 de septiembre de 2023
Efectos de la IA en el empleo
Otro riesgo de la IA discutido estuvo relacionado con aquellos cuyos trabajos pueden verse afectados negativamente por el rápido avance de la tecnología.
2/ Conversación, composición, creatividad, descubrimiento, conexión en persona: estas son las cosas que nos hacen humanos y llenan nuestras vidas de significado y valor.
¿Qué sucede cuando la IA escribe nuestros correos electrónicos, compone nuestra música, crea nuestro arte? ¿Qué sucede cuando las máquinas reemplazan a los profesores?
– Chris Murphy 🟧 (@ChrisMurphyCT) 13 de septiembre de 2023
El director ejecutivo de Microsoft, Satya Nadella, espera que la gente piense en la IA como un copiloto en lugar de algo que podría controlar trabajos de forma automática.
Pero Satya Nadella probablemente caracterizó mejor cuál debería ser la respuesta del gobierno estadounidense a la IA: “No deberíamos pensar en la IA como algo que está en piloto automático. Con la IA, se implementará mucho mejor con copilotos”. (2/2)
— Senadora María Cantwell (@SenatorCantwell) 13 de septiembre de 2023
Los desafíos de la regulación de la IA
Durante una entrevista con CNBC, Elon Musk comparó el papel del gobierno en la regulación de la IA con el de un árbitro en un partido deportivo.
“Creo que es importante por razones similares tener un regulador, lo que se puede considerar como un árbitro, para garantizar que las empresas tomen medidas que sean seguras y en interés del público en general”.
Bromas aparte, expresó su preocupación por garantizar que las empresas de IA operen de forma segura y en beneficio del interés público.
“La cuestión es realmente una cuestión de riesgo para la civilización. No es como un grupo versus otro grupo de humanos. Esto es algo que es potencialmente riesgoso para todos los humanos en todas partes. Es muy importante entender eso”.
Schumer y el senador Mike Rounds subrayaron la importancia de la acción bipartidista con MSNBC y señalaron que la IA es “tan complicada y técnica” que requiere atención federal inmediata.
“La IA es una de las cosas más difíciles de abordar para un organismo del Congreso porque es muy complicada y técnica. Es muy amplio. Va a afectar casi todos los aspectos de nuestra sociedad y está cambiando. Pero tenemos que actuar”.
Algunos senadores, sin embargo, expresaron dudas en el AI Insight Forum.
No necesitamos que el gobierno federal entre y regule con mano dura la IA.
En este momento, el Congreso necesita aprovechar los frenos y desacelerar: la IA tiene un potencial increíble y actualmente está transformando la economía. pic.twitter.com/YrjEjzBxyt
— Senador Ted Cruz (@SenTedCruz) 14 de septiembre de 2023
En un clip compartido por Fox 32 Chicago, el senador Josh Hawley criticó al líder de la mayoría por no presentar proyectos de ley tecnológicos importantes.
“El líder de la mayoría ha hablado mucho de tecnología, tecnología, tecnología. Desde hace dos años no ha presentado ni un solo proyecto de ley significativo”.
La red también compartió un breve clip de Sam Altman, director ejecutivo de OpenAI, comentando sobre los riesgos de la IA.
“Creo que es importante asegurarnos de que podamos sortear esas desventajas y tener muy claro cuáles son esos riesgos”.
¿Qué sigue con la regulación de la IA?
La principal conclusión del AI Insight Forum fue el punto en común entre los directores ejecutivos de tecnología y los políticos en materia de regulación.
¡El primer Foro AI Insight fue uno de los debates más informativos jamás celebrados en el Congreso!
El Congreso debe desempeñar un papel en la regulación de la IA, en la promoción de la innovación transformacional y en ayudar a garantizar que tengamos barreras protectoras para la innovación sostenible.
—Chuck Schumer (@SenSchumer) 14 de septiembre de 2023
Sentó un precedente crucial al reunir a los nombres más importantes de la tecnología y la política para discutir la regulación de la IA, sentando las bases para futuras acciones legislativas.
Hoy organizamos el primer foro bipartidista AI Insight centrado en cuestiones de políticas, oportunidades y amenazas relacionadas con la inteligencia artificial.
Gracias a todos los expertos que nos acompañaron hoy.
Espero trabajar con mis colegas en estos temas en los próximos meses. pic.twitter.com/qX9kP5X4mt
— Senador Todd Young (@SenToddYoung) 13 de septiembre de 2023
Sin embargo, podría pasar mucho tiempo antes de que se implemente la regulación de la IA.
Un primer foro sobre inteligencia artificial sobre inteligencia artificial muy productivo
Una cosa sí sabemos: nuestro trabajo apenas comienza
no va a ser fácil
Pero la IA tiene un potencial increíble y es un desafío increíble: debemos hacer todo lo posible para elaborar una legislación que haga del mundo con IA un lugar mejor.
—Chuck Schumer (@SenSchumer) 13 de septiembre de 2023
Imagen de portada: VideoFlow/Shutterstock
