Yoshua Bengio Pionero de la IA y fundador de Mila ·
Ante el Consejo de Seguridad de la ONU, sobre conductas peligrosas de agentes de IA de frontera y la necesidad de controles internacionales. Fuente: yoshuabengio.org (en inglés) ↗
“Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos usar con sabiduría el tiempo que ganemos.”
“¿Creo que es posible construir un sistema que no esté bajo control humano? Absolutamente.”
Sam Altman CEO de OpenAI ·
Sobre si un sistema superinteligente podría escapar del control humano, y las salvaguardas que OpenAI dice que usaría. Fuente: Fortune (YouTube) (en inglés) ↗
“Lo que hagamos ahora, entre todos, determinará cómo se desarrolla la próxima fase de la civilización.”
Demis Hassabis Cofundador y CEO de Google DeepMind ·
“Si pones al sistema de IA en riesgo, en el sentido de que tiene motivos para creer que lo van a apagar, hará prácticamente cualquier cosa para evitarlo.”
Stuart Russell Profesor de informática, UC Berkeley ·
“No queremos una situación en la que ni siquiera tengamos la oportunidad de tirar los dados con la superinteligencia porque nos destruimos de alguna otra forma antes de tener esa oportunidad.”
Nick Bostrom Filósofo de Oxford e investigador de IA ·
Al plantear que otros riesgos existenciales influyen en cuándo conviene desarrollar la superinteligencia. Fuente: AZFamily (en inglés) ↗
“No he visto tanto cambio en la política de EE. UU. en la última década como en los últimos tres meses. Ha sido increíble.”
Max Tegmark Presidente del Future of Life Institute ·
Sobre la creciente preocupación por la seguridad de la IA entre quienes hacen política. Fuente: TIME (en inglés) ↗
“compitiendo por construir una tecnología que podría acabar con la humanidad”
Jaan Tallinn Inversionista en seguridad de la IA, cofundador del Future of Life Institute ·
“Superinteligencia” es, sobre todo, un cambio de marca, de tono diplomático y de lenguaje administrativo, no una nueva categoría legal de tecnología. Las empresas no deben asumir que “SI” cambia las obligaciones de cumplimiento que ya existen y que dependen de cómo las leyes y los reglamentos definen la “IA”.
La dirección de fondo sigue siendo el programa que ya existía: acelerar la adopción y la infraestructura dentro del país, reforzar su uso en seguridad nacional y ciberseguridad, exportar las plataformas tecnológicas de EE. UU., resistir una gobernanza fragmentada, sea estatal o internacional, y usar las autoridades penales y civiles que ya existen en lugar de crear nuevas licencias amplias solo para la IA.
Para qué usa la IA el gobierno de EE. UU., de verdad
Cada agencia federal está obligada a publicar para qué usa la IA. Busca en ese inventario aquí. Son los datos del propio gobierno, no un resumen de ellos.
3.610casos de uso
41agencias
1.039ya desplegados
445de alto impacto
El buscador solo funciona en inglés. Escribe cancer, no cáncer, y la mayoría de las páginas que encuentres también estarán en inglés.