Entrevista a Eric Horvitz sobre la IA en 2025
“Haremos (como sociedad) un buen trabajo con esta tecnología, igual que lo hicimos con la electricidad, la televisión o la radio.”
En estos días donde los principales líderes de los laboratorios de IA han hecho sus predicciones para 2025, merece la pena escuchar cada minuto de esta entrevista a Eric Horvitz1, Director Científico en Microsoft y miembro del Consejo de Asesores en Ciencia y Tecnología del Presidente de los Estados Unidos (PCAST).
Algunas de sus reflexiones sobre como aprovechar el poder y el potencial de la IA:
- “Haremos (como sociedad) un buen trabajo con esta tecnología, igual que lo hicimos con la electricidad, la televisión o la radio.”
- «Microsoft siempre ha querido construir ordenadores que puedan leer, escuchar, ver y pensar.»
- «Si has utilizado un ordenador con Microsoft Windows, llevas utilizando machine learning desde hace más de una década, ya que se usa para anticipar próximos pasos y gestionar la memoria proactivamente.»
Pero lo que pone en valor Eric Horvitz es el impacto que la IA tendrá en las biociencias y la medicina en las próximas dos o tres décadas. 🧬🩺 Una visión de lo que se puede hacer, pero sobre de lo que se debe hacer.
Entrevista a Eric Horvitz, Director Científico en Microsoft
La inteligencia artificial y las tecnologías basadas en ella siguen evolucionando a un ritmo sin precedentes. Pero esta innovación se encuentra en una encrucijada, ya que promete avances notables y su parte de desafíos. Desde revolucionar la atención sanitaria y la medicina hasta transformar el panorama de la seguridad y la defensa, la IA tiene el potencial de remodelar y trastornar el mundo.
A medida que se intensifica el debate sobre la IA, también lo hacen las complejas reacciones de entusiasmo y aprensión. Por un lado, se celebran los avances en el aprendizaje automático, que permiten a la IA procesar grandes cantidades de información y realizar numerosas tareas que antes se consideraban exclusivas de los humanos. Por otro lado, los riesgos, desde algoritmos potencialmente sesgados hasta el mal uso y abuso de las tecnologías de IA, han contribuido a la preocupación por el impacto de la IA en la sociedad. Esta dualidad lo deja claro: es imperativo equilibrar la innovación con la responsabilidad, garantizando que Estados Unidos aproveche las capacidades de la IA al tiempo que trabaja para salvaguardar los valores y las normas éticas de larga data, un tema importante en la Cumbre de IA y Tecnología de POLITICO presentada en parte por Microsoft.
Eric Horvitz, director científico de Microsoft, se muestra optimista: «Haremos un buen trabajo navegando por ella, como hemos hecho en gran medida con la electricidad, el auge de la televisión y la radio». Microsoft ha estado trabajando con expertos y partes interesadas de todo el mundo para comprender las implicaciones en el mundo real de la implantación de la IA, cómo prepararse para los cambios que traerá consigo y los riesgos a los que habrá que enfrentarse a medida que las tecnologías de IA se integren más en la vida cotidiana.
Horvitz, que forma parte del Consejo Presidencial de Asesores sobre Ciencia y Tecnología (PCAST), subrayó el importante papel que desempeñarán las asociaciones y la colaboración para lograr avances en el frente de la IA. POLITICO Focus habló recientemente con Horvitz sobre el futuro de la IA, cómo puede aprovecharse su potencial y qué se necesita de los líderes para conseguirlo.
Algunas preguntas de la entrevista en detalle
¿Puedes hablarnos un poco sobre la evolución de la IA? ¿Y qué hay que tener en cuenta a medida que la IA sigue avanzando?
Microsoft siempre ha querido construir ordenadores que pudieran leer, escuchar, ver y pensar. Reconocí esa pasión en la empresa desde el primer día que estuve allí, y hemos atravesado varios paradigmas de IA a lo largo del tiempo. Ahora estamos en una nueva era, un nuevo paradigma apasionante.
Las tecnologías de IA no son nuevas en nuestra vida cotidiana y en los sistemas que utilizamos. Durante muchos años, hemos tenido el filtro de correo basura basado en el aprendizaje automático, la bandeja de entrada de Outlook que prioriza el correo electrónico, los correctores gramaticales y la búsqueda y recuperación – toda la magia que se ve con los motores de búsqueda está impulsada por la IA. Si utilizas una máquina Windows, entre bastidores, el aprendizaje automático se ha aprovechado durante más de una década para aprender qué pasos harás a continuación y gestiona la memoria de forma proactiva, haciendo que los usuarios cambien entre aplicaciones con la rapidez del rayo. Incluso el propio sistema operativo funciona con IA.
Ahora, tenemos avances en la IA generativa, que ha traído consigo nueva magia y emoción, incluso para los investigadores de IA a largo plazo.
¿Qué es la Antología de la IA de Microsoft? ¿Cuáles son algunos de los casos de uso más inspiradores?
En 2022, mi equipo fue uno de los primeros grupos del mundo en obtener acceso al modelo GPT-4 de OpenAI para realizar un estudio de seguridad, comprender sus asperezas, su fiabilidad, precisión, cuestiones relacionadas con la equidad, etcétera. Aunque empezamos con un estudio sobre la seguridad, también exploramos su capacidad para resolver problemas y quedamos impresionados por la potencia de GPT-4 en el lado positivo. Obtuvimos un permiso especial de OpenAI para organizar el proyecto Antología de la IA («AI Anthology«) y trabajar con expertos de muchas disciplinas para proporcionarles un acceso temprano a la GPT-4 y escribir ensayos sobre su potencial, sobre cómo podría aprovecharse mejor esta tecnología de forma positiva. ¿Cómo podría aprovecharse mejor esta nueva tecnología para el florecimiento humano? ¿Qué pensaban? Esa es la Antología de la IA.
Por ejemplo, Kristen DiCerbo, directora de aprendizaje de Khan Academy, una organización educativa sin ánimo de lucro, dijo que esto va a abrir ilimitadas vías a la educación interactiva. En la antología hay una serie de ensayos interesantes sobre la salud mental. Tom Insel, ex director del Instituto Nacional de Salud Mental, habló de cómo esta tecnología podría abrir el asesoramiento más ampliamente. Sonja Lyubomirsky, psicóloga e investigadora de la felicidad en la Universidad de California en Riverside, habló de cómo estos sistemas podrían fomentar la positividad. Otros colaboradores de Anthology fueron Trevor Mundel, presidente de Salud Global de la Fundación Gates. Juntos estudiamos cómo podría utilizarse esta tecnología en el Sur Global para capacitar a los trabajadores y profesionales sanitarios, y él escribió un hermoso ensayo sobre cómo podría abrir nuevas vías para la prestación de asistencia sanitaria en zonas de bajos recursos.
Como asesor del Gobierno y de otras organizaciones como el Consejo Presidencial de Asesores sobre Ciencia y Tecnología, ¿puede hablarnos de la misión y el trabajo de algunos de estos grupos? ¿Qué riesgos tratan de abordar con mayor urgencia?
Estas organizaciones suelen centrarse no sólo en los riesgos, sino también en las oportunidades. El Consejo Presidencial de Asesores sobre Ciencia y Tecnología, o PCAST, trabaja como un comité para identificar áreas en las que hay grandes interrogantes y en las que la orientación puede ser útil para el presidente y su oficina a la hora de tomar decisiones, normalmente con grandes implicaciones para el pueblo estadounidense.
Nuestros estudios de los últimos años han incluido profundas inmersiones en las posibilidades de la salud pública, evaluando el estado de nuestros sistemas de salud pública y cómo la tecnología podría ayudar en ellos. ¿Qué cambios en la política, la tecnología y la dotación de recursos podrían mejorarla? Otro estudio se centró en la seguridad de la atención sanitaria: ¿Cómo podrían las tecnologías de IA ayudar a los médicos con alertas proactivas y refrescando su memoria para recordarles los protocolos de seguridad o reducir la probabilidad de que cometan un error o un diagnóstico erróneo? ¿Qué más se podría hacer para que los hospitales se centraran más en la seguridad?
Otro tema relacionado con la IA que analizamos fue un estudio sobre el refuerzo de la resiliencia ciberfísica de nuestras infraestructuras, en el que nos centramos en el hecho de que ya no se trata solo de ciberseguridad, sino de seguridad ciberfísica y, de hecho, más allá de la seguridad, queremos resiliencia. Parte de ese estudio analizaba el riesgo que corren nuestras infraestructuras cuando los adversarios utilizan tecnologías de IA para perturbarlas. Estudiamos cómo podemos entenderlo y contrarrestarlo, en parte, mediante el red teaming, en el que desempeñamos el papel del adversario y probamos cosas nosotros mismos y construimos defensas a partir de los puntos débiles identificados.
Cuando mira al futuro de la tecnología, ¿qué es lo que más le entusiasma de hacia dónde nos dirigimos? ¿Y qué necesitan, si es que necesitan algo, líderes como Microsoft de los responsables políticos de Washington para conseguirlo?
Lo que más me entusiasma es el impacto de la IA en las biociencias y la medicina en las próximas dos o tres décadas. Creo que va a ser una época extraordinaria en la que se descubrirán nuevos fármacos y se resolverá el enigma de muchas enfermedades. Tenemos nuevas capacidades para diseñar proteínas y nuevas terapias que pueden dirigirse y unirse a receptores específicos que pueden cambiar el curso de la enfermedad y transformarla en una trayectoria saludable. Vamos a ver grandes avances y se atribuirán a la inteligencia artificial. También me interesan las implicaciones a largo plazo de la IA para las personas en la sociedad. Vivimos una época de transformaciones. Me entusiasman las ventajas en educación, en salud mental y las posibilidades de avanzar en la comprensión básica de la física y las matemáticas. Ya se están realizando esfuerzos en todos estos ámbitos.
Y luego están las «corrientes más profundas». No me queda claro cómo podemos -y debemos- guiar la inteligencia artificial y no perder de vista la dignidad humana, la agencia y la creatividad humanas, nuestro sentido de quiénes somos como personas, las implicaciones para comprender la veracidad de la información que estamos viendo, etcétera. Para mí, se trata de preocupaciones, pero también de retos interesantes y apasionantes. Haremos un buen trabajo navegando por ellos, como hemos hecho con la electricidad, el auge de la televisión y la radio y otras olas de tecnología. Todavía estamos lidiando con las redes sociales, es un trabajo en curso. Pero, en general, soy optimista, dado lo lejos que hemos llegado con nuestras tecnologías.
Vídeo de la conversación
Información basada en la publicación de POLITICO.COM «Harnessing the Power and Potential of AI» y la publicación en LinkedIn de Alberto Pinedo Lapeña (National Technology & Security Officer at Microsoft).
- Eric Horvitz es un reconocido científico informático, conocido por su trabajo en inteligencia artificial (IA). Es el jefe científico de Microsoft Research, donde ha contribuido de manera pivotal al desarrollo de tecnologías de asistencia para la toma de decisiones, modelado de incertidumbre y en interfaces humano-computadora. Horvitz ha trabajado en la intersección de la IA y la comprensión humana, explorando cómo las máquinas pueden asistir mejor a las personas en actividades cotidianas. También ha sido una figura clave en debates sobre la ética de la IA y su impacto social, participando en comités y paneles que abordan estos temas. Además de su labor en Microsoft, ha publicado numerosos artículos académicos y ha sido miembro de varias organizaciones científicas, incluyendo la Academia Nacional de Ingeniería de Estados Unidos y la Asociación Americana para el Avance de la Ciencia (AAAS). Su enfoque ha sido siempre en cómo la IA puede mejorar la vida humana mientras se abordan desafíos éticos y sociales. ↩︎
