Entrevista con Satya Nadella: el crecimiento económico como prioridad frente a la inteligencia artificial, el proyecto de inteligencia artificial de Microsoft y el salto a la computación cuántica

En una reciente entrevista en podcast con Dwarkesh Patel, Satya Nadella, Consejero Delegado de Microsoft, habló de los últimos avances de Microsoft en Inteligencia Artificial (IA) y Computación Cuántica, así como de sus ideas sobre el futuro del sector. En la entrevista, Nadella no sólo compartió los importantes avances de Microsoft en bits cuánticos topológicos y modelado de mundos de juego, sino que también hizo hincapié en que el objetivo de impulsar el crecimiento económico mundial 10% es mucho más importante que lograr la Inteligencia Artificial General (IAG).

marca de tiempo

• (0:00:00) - Introducción
• (0:05:04) - La IA no será un juego de ganadores.
• (0:15:18) - Crecimiento económico mundial 10%
• (0:21:39) - La bajada de precios de smart
• (0:30:19) - Avances en computación cuántica
• (0:42:51) - Cómo Muse cambió la industria del juego
• (0:49:51) - Obstáculos jurídicos a la IA
• (0:55:46) - Una comprensión adecuada de la seguridad AGI
• (1:04:59) - 34 años en Microsoft
• (1:10:46) - ¿Cree Satya Nadella en la inteligencia artificial?

transcripción de una entrevista

0:00:00 - Introducción inicial

Dwarkesh Patel

Satya, muchas gracias por venir al podcast. En un momento vamos a sumergirnos en dos grandes avances que Microsoft ha hecho recientemente, y enhorabuena, que llegaron a la revista Nature el mismo día: el chip Majorana Zero, que tenemos delante de nosotros ahora, y el Modelo mundial del comportamiento humano. Sin embargo, ¿podemos continuar primero el diálogo que acabamos de mantener? Usted ha mencionado que algunos de los fenómenos que vimos en los años ochenta y noventa han resurgido en la actualidad.

Satya Nadella

Lo más emocionante para mí es ...... Dwarkesh, en primer lugar, es un gran honor estar en su podcast. Soy un gran oyente y disfruto mucho con tu estilo de entrevista y la amplia gama de temas que exploras.

Lo emocionante para mí es que estoy viendo algo que me recuerda a mis primeros años en la industria tecnológica, probablemente en los años 90, cuando se debatía mucho sobre si era mejor o peor el RISC (Reduced Instruction Set Computer) o el CISC (Complex Instruction Set Computer) y la pregunta: "¿Realmente podemos construir servidores con la arquitectura x86? y "¿Realmente podemos construir servidores en x86?

Cuando me incorporé a Microsoft, estaba en los primeros días de Windows NT. Cada aspecto de la pila tecnológica, desde el núcleo de la plataforma de silicio hasta el sistema operativo y la capa de aplicación, estaba lleno de variables.

Es justo decir que la computación en nube ha remodelado todo esto hasta cierto punto, y la computación distribuida y la computación en nube han cambiado sin duda el modelo cliente-servidor, y la Web ha cambiado radicalmente. Pero esta ola parece más disruptiva que cualquier otra que haya experimentado en el pasado.

Dwarkesh Patel

Cuando echa la vista atrás a los años 80 y 90, ¿qué decisiones acabaron siendo ganadoras a largo plazo y cuáles se quedaron por el camino? Sobre todo teniendo en cuenta que usted trabajó para Sun Microsystems, que vivió la burbuja de Internet de los 90. A menudo se dice que la construcción de centros de datos fue una burbuja, pero al mismo tiempo, la Internet actual está construida sobre la infraestructura de aquella época.

¿Cuáles son las lecciones que podemos aprender sobre lo que resistirá el paso del tiempo, cuáles son las tendencias inherentes a largo plazo y cuáles son las más llamativas? ¿Qué lecciones podemos aprender de ellos?

Satya Nadella

Si echamos la vista atrás a las cuatro grandes transiciones por las que he pasado, la primera fue el auge del modelo cliente y cliente-servidor. Fue la era de las interfaces gráficas de usuario y la arquitectura x86, que básicamente nos permitió construir servidores.

La tendencia ya estaba muy clara para mí. Recuerdo que asistí a la PDC (Conferencia de Desarrolladores Profesionales) de 1991, y de hecho yo aún trabajaba en Sun por aquel entonces. En el Moscone Centre de 1991, Microsoft hizo pública por primera vez la interfaz Win32, y para mí estaba claro lo que iba a ocurrir: que los servidores también se pasarían a la arquitectura x86. Hay que apostar por esta tendencia a largo plazo cuando la ventaja de escala empiece a acumularse. Lo que ocurrió en el lado del cliente ocurrirá en el lado del servidor, y entonces se podrán crear realmente aplicaciones cliente-servidor. Como resultado, el modelo de aplicación queda claro.

Entonces la Web se convirtió en un reto importante para nosotros, y tuvimos que hacerle frente. De hecho, no fue mucho después de que me uniera a Microsoft que el navegador Netscape o el navegador Mosaic salieron, probablemente en noviembre o diciembre del 93, y Andreessen y su equipo los lanzaron.

Es un cambio enorme. Es interesante que la ola Web llegara justo cuando empezábamos la ola Cliente-Servidor. Pero estaba claro que íbamos a ganar la ola Cliente-Servidor también. Tuvimos que adaptarnos a la ola Web, y lo hicimos bastante bien, porque el navegador es un modelo de aplicación completamente nuevo.

La abrazamos sin reservas, ya fuera soportando HTML en Word, construyendo nuevos navegadores nosotros mismos y compitiendo, o construyendo servidores Web en nuestra pila de servidores y ampliando agresivamente el mercado. Por supuesto, nos perdimos el mayor modelo de negocio de la Web porque todos pensábamos que el núcleo de la Web era la distribución, y ¿quién iba a pensar que la búsqueda sería la mayor ganadora en la organización del contenido de la Web? Obviamente, no lo vimos venir, y Google sí y lo ejecutó brillantemente.

Esta es una lección para mí: no solo hay que capitalizar las tendencias tecnológicas adecuadas, sino también averiguar dónde se generará el valor. Los cambios en los modelos de negocio pueden ser más difíciles que los cambios en las tendencias tecnológicas.

0:05:04 - La IA no será un juego de ganadores.

Dwarkesh Patel

Entonces, ¿dónde se generará el valor en el espacio de la IA?

Satya Nadella

Es una buena pregunta. Creo que hay dos áreas que puedo predecir con cierta seguridad. El primero es el de los hiperescaladores, porque, fundamentalmente, incluso recordando lo que Sam (probablemente Sam Altman, consejero delegado de OpenAI) y otros han dicho sobre la IA, si la inteligencia es una función logarítmica de la potencia de cálculo, el que pueda calcular a escala será el gran ganador.

Otra observación interesante es que incluso cuando se analizan los fundamentos de cualquier carga de trabajo de IA, como ChatGPT, no son sólo los avances en GPU los que entusiasman a la gente, aunque eso es realmente genial. De hecho, incluso pienso en mi clúster de computación como una proporción entre aceleradores de IA, almacenamiento y computación. Y en cuanto a la escala, hay que seguir escalándola.

Dwarkesh Patel

Sí.

Satya Nadella

Así que la aparición de las cargas de trabajo de IA ha sido una bendición, porque ¿saben qué? Exigen más potencia de cálculo, no sólo en la fase de entrenamiento, sino también en el tiempo de inferencia. Cuando se piensa en un agente de IA, se está ante un crecimiento exponencial del uso de la computación, ya que el agente de IA ya no se limita a las llamadas de usuarios humanos, sino de programas llamados por usuarios humanos a más programas. Esto creará una enorme demanda y escala de infraestructura informática. Así que nuestro negocio de hiperescala, el negocio Azure y otros proveedores de nube de hiperescala, creo que van a tener una enorme oportunidad de crecimiento.

Después del meganegocio, las cosas se ponen un poco más turbias. Se podría decir que existe un modelo en el que el ganador se lo lleva todo, pero personalmente no lo creo. Por cierto, esta es otra lección importante que he aprendido: entender muy claramente qué mercados son mercados en los que el ganador se lo lleva todo y cuáles no lo son lo determina todo hasta cierto punto. Recuerdo que al principio, cuando empecé con Azure, Amazon había tomado una ventaja significativa y la gente, incluidos los inversores, me decían: "Se acabó el juego, nunca lo vas a conseguir, Amazon va a ser un ganador que se lo lleva todo".

Pero por mi experiencia compitiendo con Oracle e IBM en el espacio cliente-servidor, sé que los compradores nunca tolerarán una situación en la que el ganador se lo lleve todo. Estructuralmente, los servicios en la nube a hiperescala nunca serán un mercado en el que el ganador se lo lleve todo, porque los compradores son inteligentes.

El mercado de consumo puede ser a veces una situación en la que el ganador se lo lleva todo, pero en el mercado empresarial, cualquier comprador, ya sea una empresa, una corporación o un departamento de TI, quiere varios proveedores. Por tanto, usted debe ser uno de tantos proveedores.

Creo que ocurrirá algo parecido en el ámbito del modelismo. Habrá modelos de código abierto y modelos privados. Como con Windows, una de las lecciones clave que he aprendido es que si tienes un sistema operativo de código cerrado, seguro que hay una alternativa complementaria de código abierto.

Así que, en cierta medida, esto creará una especie de control y equilibrio en el panorama del mercado. Creo que en el ámbito de la modelización puede haber algunos modelos de código cerrado, pero sin duda habrá alternativas de código abierto, y las alternativas de código abierto garantizarán que no se produzca la situación de que el ganador se lo lleve todo.

Esta es mi opinión sobre el campo del modelado. Además, si la IA es realmente tan poderosa como la gente dice, los países no se quedarán de brazos cruzados y permitirán que las empresas privadas ...... se desborden a escala mundial. Así que no creo que la IA vaya a ser un mercado en el que el ganador se lo lleve todo.

Llevándolo al siguiente nivel, creo que la situación es la misma que en el pasado y, en el espacio de consumo, puede haber algunos efectos de red en los que el ganador se lo lleva todo en determinadas categorías. Al fin y al cabo, ChatGPT es un gran ejemplo de ello.

Es una aplicación de consumo masivo que ha alcanzado una velocidad de escape real. La veo constantemente entre las cinco primeras de la App Store, lo cual es increíble.

Son capaces de capitalizar las ventajas iniciales y convertirlas en ventajas de aplicación. En el espacio de consumo, eso puede ocurrir. Pero en el mercado empresarial, creo que habrá diferentes ganadores en las distintas categorías. Al menos ese es mi análisis.

Dwarkesh Patel

Me gustaría hacer muchas preguntas complementarias. Tendremos que hablar de la computación cuántica más adelante, pero sobre la idea de que los modelos podrían convertirse en productos básicos: quizá alguien expuso un argumento similar sobre la computación en nube hace décadas: ¿no se trata la computación en nube fundamentalmente de chips y cajas?

Pero al final, tú y muchos otros habéis encontrado la forma de obtener márgenes de beneficio asombrosos en la nube. Habéis encontrado formas de realizar economías de escala y añadir otro valor. Fundamentalmente, incluso dejando a un lado la terminología, si tienes AGI y te ayuda a crear mejor IA -ahora mismo, estamos viendo datos sintéticos y aprendizaje por refuerzo (RL); quizá en el futuro haya investigadores de IA automatizados- esto parece una buena forma de aprovechar tus puntos fuertes. Tengo curiosidad por saber qué piensa al respecto, especialmente sobre la importancia de mantenerse a la vanguardia de la IA.

Satya Nadella

Después de la escala, nada es una mercancía. Es como cuando mencionas la nube, todo el mundo dice: "Oh, la nube es una mercancía". Pero cuando escalas ...... ese es el truco para dirigir un proveedor de nube a hiperescala ...... Puede que digas: "¿Qué tiene eso de difícil? ¿No basta con apilar servidores?"

Dwarkesh Patel

Así es.

Satya Nadella

De hecho, en los primeros días de la computación en nube a hiperescala, la mayoría de la gente pensaba: "Hay muchos proveedores de alojamiento ahí fuera, pero no son un buen negocio. ¿Tiene futuro la computación en nube a hiperescala? ¿Tiene siquiera sentido comercial?". Pero resulta que la computación en nube a hiperescala es un negocio real, puramente por el know-how operativo, como Azure, que opera una infraestructura de computación de clase mundial en más de 60 regiones. Eso es difícil de replicar.

Así que lo que más me gustaría destacar es si el panorama del mercado es "un ganador" o "el ganador se lo lleva todo". Porque eso hay que averiguarlo. A mí me gusta entrar en áreas donde hay mucho volumen de mercado (TAM), donde no tienes que correr el riesgo de una situación en la que el ganador se lo lleva todo. Lo ideal es estar en un gran mercado en el que haya espacio para varios ganadores, y tú seas uno de ellos.

Esto es lo que yo llamo la capa de hiperescala. A nivel de modelo, los modelos deben ejecutarse en última instancia en algún tipo de infraestructura informática a hiperescala. Así que creo que esa conexión siempre estará ahí. No es sólo el modelo en sí; el modelo necesita estado, lo que significa que necesita almacenamiento; necesita computación regular para ejecutar estos agentes y sus entornos de agentes.

Por eso pienso en por qué el escenario de "una persona con un modelo puede hacerlo todo" probablemente no sucederá.

Dwarkesh Patel

En cuanto a los proveedores de nubes hiperescalares, por cierto, es interesante que, como proveedor de nubes hiperescalares, tienes la ventaja de que, especialmente en el contexto del escalado del tiempo de inferencia, si se trata de entrenar futuros modelos, puedes amortizar el coste del centro de datos y las GPU no solo para el entrenamiento, sino también para la inferencia de nuevo. El sitio

Tengo curiosidad por saber a qué tipo de proveedor de nube a hiperescala crees que pertenecen Microsoft y Azure. ¿Está en el lado del preentrenamiento? ¿Proporciona un servicio de inferencia del tipo O3 (OpenAI o3)? ¿O simplemente va a alojar y desplegar cualquier modelo disponible en el mercado, y es neutral al respecto?

Satya Nadella

Es una buena pregunta. La forma en que estamos construyendo nuestros clusters informáticos responde, en parte, a la ley de Moore. Creo que va a ser como todo lo que hemos hecho en el pasado: renovar los clústeres informáticos cada año, amortizarlos a lo largo de su vida útil y, a continuación, ser muy buenos en el despliegue de clústeres para poder ejecutar diferentes trabajos con altos índices de utilización. A veces, los grandes trabajos de formación requieren una alta concentración de potencia de cálculo en coma flotante (flops) y necesitan trabajar juntos. Esto es bueno. Deberíamos disponer de un centro de datos que cubra estas necesidades.

Pero al fin y al cabo, estas escalas se están haciendo tan grandes que incluso a escala de preentrenamiento, si necesita seguir creciendo, en algún momento la escala de preentrenamiento tiene que cruzar el límite del centro de datos. Todo esto es más o menos una realidad.

Así que, una vez que se empieza a cruzar la frontera del centro de datos de preentrenamiento, ¿en qué se diferencia de cualquier otra cosa? En mi opinión, la informática distribuida va a seguir siendo distribuida, por lo que hay que crear clústeres informáticos capaces de gestionar grandes tareas de formación, cálculos en tiempo de inferencia y las exigencias que pueda plantear el aprendizaje por refuerzo. En mi opinión, se trata más bien de realizar más operaciones de entrenamiento en coma flotante, porque lo que se quiere es crear estos modelos altamente especializados y ajustados para diferentes tareas.

Así que se necesita ese tipo de cluster de computación, así como la demanda de servicios . Al fin y al cabo, "la velocidad de la luz es la velocidad de la luz", y no se puede pretender construir un centro de datos en Texas y decir: "Voy a dar servicio al mundo desde allí".

Hay que desplegar clústeres informáticos de inferencia por todo el planeta para poder servir al mundo. Eso es lo que yo creo que hace falta para construir un verdadero clúster informático a hiperescala.

Ah, y por cierto, también quiero que mi capacidad de almacenamiento y computación esté cerca de todas estas instalaciones, porque no sólo el acelerador de IA es apátrida. Mis datos de entrenamiento tienen que estar almacenados, y quiero ser capaz de multiplexar múltiples trabajos de entrenamiento, y quiero tener la memoria, y quiero tener un entorno en el que estos agentes puedan ejecutar programas. Eso es lo que yo entiendo por clústeres informáticos a hiperescala.

0:15:18 - Crecimiento económico mundial 10%

Dwarkesh Patel

Microsoft informó recientemente de que sus ingresos anuales procedentes de la IA ascienden a 13.000 millones de dólares. Pero al ritmo de crecimiento anual actual, esa cifra se multiplicará por diez en unos cuatro años. Si la tendencia continúa, los ingresos de la IA alcanzarán los 130.000 millones de dólares. En ese caso, ¿cómo se espera aprovechar la inteligencia a tan gran escala para aplicaciones tan industriales?

¿Es a través de Office? ¿O mediante el despliegue a terceros para su alojamiento? ¿Es necesario tener AGI para conseguir 130.000 millones de dólares en ingresos por IA? ¿Cómo sería?

Satya Nadella

Dwarkesh, has planteado una pregunta muy buena porque, en cierto modo, si vamos a tener este tipo de crecimiento explosivo de la inteligencia, abundancia de oferta e incluso mercantilización, lo primero que tenemos que mirar es el crecimiento del PIB.

Antes de hablar de las perspectivas de ingresos de Microsoft, debemos tener clara una limitación. Esta es la razón por la que a menudo nos precipitamos con el bombo de AGI. Recuerden, ¿cuál es la tasa de crecimiento económico en el mundo desarrollado?2%?Casi cero si se descuenta la inflación.

De cara a 2025, aunque no soy economista, lo que veo es que nos enfrentamos a un verdadero reto de crecimiento. Así que lo primero que tenemos que hacer, cuando decimos que esto es comparable a la revolución industrial, es lograr un crecimiento al estilo de la revolución industrial.

Para mí, eso significa una tasa de crecimiento de 10%, 7% para los países desarrollados, y aún 5% después de la inflación. Esa es la medida real. No puedes detenerte sólo en el lado de la oferta.

De hecho, me anima el hecho de que mucha gente esté escribiendo artículos sobre el tema. El artículo señala que los mayores ganadores no serán las empresas tecnológicas, sino la industria en general, que capitalizará esta amplia oferta de materias primas. De repente, la productividad ha aumentado y el crecimiento económico se ha acelerado. Cuando eso ocurra, la industria tecnológica también se beneficiará.

Pero ha llegado la hora de la verdad. Nos jactamos de haber alcanzado el hito AGI, que para mí es un ejercicio de evaluación comparativa sin sentido . El verdadero punto de referencia es: el crecimiento económico mundial 10%.

Dwarkesh Patel

Bien, si la economía mundial crece en 10%, entonces el tamaño de la economía mundial es de aproximadamente 100 billones de dólares Alrededor. Si la economía mundial crece 10%, eso supone 10 billones de dólares adicionales en creación de valor al año. Si ese es el caso, como proveedores de nube a hiperescala, sus 80.000 millones de dólares en ingresos siguen pareciendo demasiado pequeños. ¿No deberían ser 800.000 millones?

Si realmente pensamos que podemos impulsar el crecimiento económico mundial a este ritmo en los próximos años, el cuello de botella clave pasa a ser: ¿disponemos de la potencia informática necesaria para desplegar toda esta IA para hacer todo el trabajo?

Satya Nadella

Tienes razón. Pero por cierto, el pensamiento clásico del lado de la oferta es: "Oye, déjame construirlo primero y ellos vendrán naturalmente". Es un argumento, y lo hemos hecho, hemos tomado suficientes riesgos para practicarlo.

Pero, en última instancia, la oferta y la demanda deben coincidir. Por eso me centro tanto en la oferta como en la demanda. Si te centras en el lado de la oferta sin entender realmente cómo traducir la oferta en valor real para tus clientes, puedes estar completamente fuera de la realidad.

Esta es una de las razones por las que me centro en los ingresos inferidos. Esta es una de las razones por las que estoy abierto sobre los ingresos Razonamiento ...... Curiosamente, no muchas personas parecen estar hablando de sus ingresos reales, pero es importante para mí como un cheque y el equilibrio en la forma de pensar acerca de las cosas .

No se puede esperar que la oferta y la demanda sean perfectamente simétricas en ningún momento, pero hay que tener la prueba de la existencia , la prueba de que se pueden convertir los insumos de ayer (capital) en la demanda de hoy para poder invertir de nuevo, quizá incluso exponencialmente, y confiar en que no se desequilibrará por completo.

Dwarkesh Patel

No estoy seguro de que haya una contradicción entre estas dos opiniones, porque una de las cosas que habéis hecho muy bien es atreveros a hacer apuestas tempranas. Ustedes Invertido en OpenAI en 2019Incluso en el Copiloto y antes de que aparezca ninguna aplicación.

Recordemos que durante la Revolución Industrial, la construcción de ferrocarriles y otras infraestructuras condujo a un crecimiento económico que osciló entre 6% y 10%, pero muchos de estos proyectos no generaron ingresos inmediatos en los primeros años, por ejemplo: "Tenemos ingresos por la venta de billetes, ahora vamos a ...... "

Satya Nadella

Perdí mucho dinero en ese momento.

Dwarkesh Patel

Exactamente. Así que si realmente crees que aquí hay potencial para aumentar la tasa de crecimiento económico mundial en un factor de 10 o incluso un factor de 5, pero luego te centras demasiado en "¿Cuáles son los ingresos del GPT-4?". parece un poco contradictorio.

Si realmente crees que es posible un crecimiento tan enorme en la próxima fase, ¿no deberías adoptar una estrategia más radical, como "Volvámonos locos e invirtamos en construir infraestructuras informáticas por valor de cientos de miles de millones de dólares"? Al fin y al cabo, aquí hay una gran oportunidad, ¿no?

Satya Nadella

Este es un punto interesante, ¿verdad? Por eso es fundamental una estrategia equilibrada para los clústeres informáticos, al menos para mí. La clave no es sólo construir potencia de cálculo, sino construir potencia de cálculo que realmente pueda ayudarme a entrenar el siguiente gran modelo y servir al siguiente gran modelo. Hasta que no hagas ambas cosas, no podrás aprovechar realmente tu inversión.

Así que la clave no es la carrera por construir modelos, sino la carrera por crear un producto que pueda ser utilizado por el mundo para impulsar el crecimiento económico ...... Hay que tener un marco de pensamiento completo, en lugar de centrarse en un solo aspecto.

Uno de los fenómenos, por cierto, es que va a haber un exceso de construcción. Al igual que mencionaste en la época de la burbuja de Internet, ahora se ha enviado la señal: oye, necesitas más energía, necesitas más potencia de cálculo. Y gracias a Dios todo el mundo acudirá en masa.

De hecho, no son solo las empresas las que lo están desplegando, sino que los gobiernos están invirtiendo capital en ello, y sin duda va a llegar ....... Estoy contento de ser un arrendatario, porque, por cierto, construyo mucho por mi cuenta y alquilo mucho. Estoy contento de estar alquilando mucha capacidad de computación en 2027, 2028, porque veo la escala de estas construcciones y digo: "Esto es genial". El único resultado de todas las ampliaciones de capacidad informática es que los precios bajan.

0:21:39 - La bajada de precios de smart

Dwarkesh Patel

Hablando de precios a la baja, ha estado recientemente en DeepSeek Después del lanzamiento del modelo tuitee Habló de la paradoja de Jevons. Tengo curiosidad por saber si puede explicarla. La paradoja de Jevons se refiere al hecho de que cuando la elasticidad de la demanda de algo es muy alta, el consumo total aumenta incluso si las ganancias de eficiencia conducen a reducciones de precios. ¿Es la demanda de inteligencia tan sensible a las reducciones de precios?

Porque si lo pienso bien, al menos desde mi perspectiva de consumidor, smart se ha vuelto muy barato. Por millón ficha Son sólo 2 céntimos. ¿Realmente necesito que baje a 0,02 céntimos? Mi cuello de botella ahora mismo es ser más inteligente. Si necesitas cobrarme 100 veces el precio para entrenar a 100 veces la escala, estaré encantado de hacerlo.

Pero quizás usted vea un panorama diferente en el mercado empresarial o en otros ámbitos. ¿Cuáles son los principales casos de uso de smart? ¿Es realmente necesario bajar a 0,002 céntimos por millón de tokens?

Satya Nadella

Creo que lo que realmente importa es la eficacia de la ficha. Hay que tener en cuenta ambas cosas: por un lado, la inteligencia tiene que mejorar y abaratarse. Cada vez que hay un gran avance, como ocurrió con DeepSeek, cuando la frontera eficiente del rendimiento de los tokens cambia, la curva se dobla, la frontera se desplaza, hay más demanda. Es el caso de la computación en nube.

Esto es lo interesante: solíamos pensar: "Caramba, ya hemos vendido todos los servidores en la era cliente-servidor". Pero una vez que empezamos a poner servidores en la nube , de repente la gente empezó a consumir más porque podían comprarlo más barato, y era elástico, y podían pagar bajo demanda en lugar de comprar licencias, lo que amplió completamente el mercado.

Recuerdo ir a países como la India a vender SQL Server y vendimos algo, pero ¿sabes qué? La computación en nube es mucho mayor en la India que todo lo que pudimos hacer en la era de los servidores. Creo que también va a ocurrir en el espacio de la IA.

Imagínense que realmente quisieran proporcionar fichas sanitarias realmente baratas a precios muy bajos en el Sur, en los países en desarrollo, eso sería una transformación sin precedentes.

Dwarkesh Patel

Creo que es razonable que alguien como yo en San Francisco oiga a la gente decir: "Son un poco estúpidos, no saben lo que es desplegar cosas en el mundo real".

Como alguien que ha trabajado con empresas de la lista Fortune 500 y las ha ayudado a desplegar tecnología para cientos de millones, si no miles de millones, de personas, ¿con qué rapidez cree que se desplegarán estas capacidades?

Aunque tengas agentes disponibles, aunque tengas algo que pueda trabajar a distancia para ti, ¿va a ser un gran cuello de botella dados todos los requisitos de cumplimiento y los cuellos de botella inherentes? ¿O se superará rápidamente?

Satya Nadella

Será todo un reto, porque el verdadero problema es la gestión del cambio o el cambio de procesos. He aquí una analogía interesante: imaginemos cómo hace previsiones una empresa multinacional como la nuestra sin PC, correo electrónico ni hojas de cálculo. Los faxes vuelan de un lado a otro, alguien recibe el fax y redacta una nota interna que circula por ahí, la gente rellena las cifras de la nota y todo acaba en un informe de previsiones, probablemente justo a tiempo para el siguiente trimestre.

Entonces alguien dijo: "Oye, puedo usar una hoja de cálculo Excel, enviarla por correo electrónico, la gente puede editarla y luego obtendré un informe de previsión". Todo el proceso de previsión cambió porque cambiaron el producto y el flujo de trabajo.

Esto es lo que tiene que ocurrir cuando se introduce la IA en el trabajo del conocimiento. De hecho, cuando pensamos en todos estos agentes, la conclusión es que surgirá un nuevo tipo de trabajo y de flujo de trabajo.

Por ejemplo, incluso cuando me preparo para nuestro podcast, utilizo mi Copilot y le digo: "Oye, voy a hablar con Dwarkesh sobre nuestro anuncio de computación cuántica y el nuevo modelo que estamos construyendo para la generación de juegos. Hazme un resumen y dime qué material debo leer antes". Sabía de dos artículos de Nature y extrajo la información. Incluso le dije: "Oye, preséntamelo en forma de podcast". Incluso imitaba muy bien el formato de una conversación entre nosotros dos.

Este se convirtió en mi nuevo flujo de trabajo; de hecho, después lo compartí con mi equipo. Lo copié en Pages (el programa de edición de documentos de Microsoft) como mi producto de trabajo y lo compartí. Así que mi nuevo flujo de trabajo es pensar con IA y trabajar con mis colegas.

Se trata de una cuestión fundamental de gestión del cambio para todos los que se dedican al trabajo del conocimiento y necesitan averiguar "¿Cómo hago mi trabajo del conocimiento de una manera nueva?". Esto llevará tiempo. Impregnará todas las áreas de ventas, finanzas y cadena de suministro.

Para las organizaciones tradicionales, creo que va a ser un cambio similar a la adopción de la fabricación ajustada por parte de los fabricantes. Me gusta la analogía con la fabricación ajustada porque, en cierto modo, si se mira de cerca, se puede ver que la fabricación ajustada se convierte en una metodología que las empresas pueden utilizar para optimizar sus procesos de fabricación de principio a fin y mejorar la eficiencia. Hace hincapié en la mejora continua, lo que significa reducir los residuos y añadir valor.

Esto es lo que va a ocurrir en el área de trabajo del conocimiento. Es como el Lean Manufacturing en el espacio de KnowledgeWorks, especialmente KnowledgeWorks. Y el equipo directivo y los individuos implicados en el trabajo del conocimiento necesitan trabajar en esta transformación, y llevará tiempo.

Dwarkesh Patel

¿Puedo hacer una breve pregunta sobre la analogía de la fabricación ajustada? Una de las cosas que ha conseguido el Lean Manufacturing es cambiar la planta de producción a nivel físico. Revela cuellos de botella que la gente no se daba cuenta de que existían hasta que se centraron realmente en los procesos y flujos de trabajo.

Acabas de mencionar brevemente tu propio flujo de trabajo, cómo ha cambiado gracias a la IA. Tengo curiosidad por saber cómo es dirigir una gran empresa con agentes de IA cada vez más inteligentes.

Satya Nadella

Es interesante que lo preguntes. Por ejemplo, hoy estaba pensando en cómo trabajamos ahora, que dependemos tanto del correo electrónico. Llego al trabajo por la mañana y me encuentro la bandeja de entrada llena de correos electrónicos que tengo que responder. Me muero de ganas de utilizar los agentes de Copilot y hacer que rellenen automáticamente mis borradores de correo electrónico para que yo sólo tenga que revisarlos y enviarlos.

Pero ya estoy utilizando al menos diez agentes en Copilot, haciéndoles diferentes consultas para distintas tareas. Tengo la sensación de que habrá una nueva bandeja de entrada para los millones de agentes con los que estoy trabajando que me enviarán excepciones, notificaciones y solicitudes de instrucciones.

Así que, al menos en mi opinión, hay que construir un nuevo andamiaje, el Gestor de Agentes. No es sólo una interfaz de chat. Necesitaba algo más inteligente que una interfaz de chat para gestionar todos los agentes y sus conversaciones.

Por eso creo que Copilot, como interfaz de usuario para la IA, es importante. Todos la tendremos. Básicamente, se puede entender que hay trabajo del conocimiento y hay trabajadores del conocimiento. El trabajo del conocimiento puede ser realizado por muchos agentes, pero sigue siendo necesario un trabajador del conocimiento para manejar a todos esos trabajadores del conocimiento. Y esa es la interfaz que tenemos que construir.

0:30:19 - Avances en computación cuántica

Dwarkesh Patel

Eres una de las pocas personas en el mundo que puede decir "Tengo 200.000 ...... Estoy rodeado de un clúster inteligente formado por Microsoft y todos sus empleados". Tienes que gestionarlo e interactuar con él para sacarle el máximo partido. Ojalá más gente en el mundo tenga esta experiencia en el futuro.

Tengo curiosidad, si tu bandeja de entrada ha quedado así, ¿significa eso que la bandeja de entrada de todo el mundo se parecerá a la tuya por la mañana?

Bueno, antes de entrar en materia, me gustaría seguir preguntándole sobre la IA, pero en realidad me gustaría preguntarle por los grandes avances que Microsoft Research ha logrado en el área de la computación cuántica. ¿Puede explicarnos qué se está haciendo hasta ahora?

Satya Nadella

Son otros 30 años de nuestro largo viaje. Es increíble. Soy el tercer CEO de Microsoft que se entusiasma con la computación cuántica.

Nuestra visión siempre ha sido que se necesita un gran avance en física para construir ordenadores cuánticos que puedan utilizarse a escala práctica. Elegimos un camino en el que pensamos que una forma de conseguir menos ruido o bits cuánticos (qubits) más fiables era apostar por una propiedad física que fuera intrínsecamente más fiable, y por eso elegimos los modos cero de Majorana, que se propusieron en los años treinta. La cuestión es, ¿podemos realmente hacer estas cosas físicamente? ¿Podemos construirlos realmente?

Así que el verdadero avance es que ahora por fin tenemos la prueba de la existencia y un gran paso adelante en la física para el modo cero de Majorana, que existe en una nueva forma de materia. Por eso nos gusta compararlo con el momento del transistor de la computación cuántica, en el que realmente tenemos una nueva forma, la fase topológica, que significa que ahora podemos incluso ocultar información cuántica de forma fiable, medirla y podemos fabricarla. Ahora que lo tenemos, creemos que con los avances en el núcleo, las tecnologías de fabricación fundamentales, podemos empezar a construir el chip Majorana.

Lo llamamos Majorana One, y creo que va a ser el primer chip capaz de albergar un millón de bits cuánticos (bits cuánticos físicos). Y encima, miles de bits cuánticos lógicos para permitir la corrección de errores. Y entonces empieza el juego. De repente, se pueden construir ordenadores cuánticos realmente prácticos, y creo que ahora es mucho más factible. Sin avances como éste, aún se pueden lograr algunos hitos, pero nunca se podrá construir un ordenador a escala práctica. Eso es lo que nos entusiasma.

Dwarkesh Patel

Impresionante. Por cierto, creo que esto es todo, ¿verdad?

Satya Nadella

Eso es, eso es.

Dwarkesh Patel

Sí.

Satya Nadella

No puedo recordar ahora. ¿Lo llamamos Majorana? - Sí, así es. Sí, así es, Majorana Uno. En su nombre. Nombre.

Es increíble pensar que podemos construir un ordenador cuántico con un millón de bits cuánticos en un chip tan pequeño. Y aquí está la clave: a menos que podamos hacer eso, no se puede soñar con construir un ordenador cuántico a escala práctica.

Dwarkesh Patel

¿Dice que con el tiempo se integrarán un millón de bits cuánticos en un chip de este tamaño? Es asombroso.

Otras empresas han anunciado ordenadores cuánticos con 100 bits cuánticos físicos, como Google, IBM y otras. Cuando dices que has anunciado un gran avance, también estás diciendo que tu tecnología tiene una ventaja en términos de escala.

Satya Nadella

Sí. Otra cosa que hemos hecho es adoptar un enfoque hardware/software. Estamos construyendo nuestra pila de software, y ahora estamos trabajando con expertos en ordenadores cuánticos de átomo neutro, expertos en ordenadores cuánticos de trampa de iones, y estamos trabajando con otras personas que tienen grandes enfoques en áreas como la fotónica, lo que significa que habrá diferentes tipos de ordenadores cuánticos. De hecho, nuestro anuncio más reciente fue el de 24 bits cuánticos lógicos. También hemos logrado avances notables en la corrección de errores, lo que nos ha permitido construir sistemas con más de 20 bits cuánticos lógicos, incluso en ordenadores cuánticos de átomo neutro y pozo iónico, y creo que va a seguir siendo así este año; nos verán subir y subir y subir en ese campo.

Pero también dijimos: "Volvamos a los primeros principios y construyamos nuestros propios ordenadores cuánticos, apostando por los qubits topológicos". De eso trata este avance.

Dwarkesh Patel

Estupendo. Millones de bits cuánticos topológicos, miles de bits cuánticos lógicos, ¿cuál es el calendario previsto para llegar a esa escala? Si tienes el primer transistor, ¿cómo es la Ley de Moore aquí?

Satya Nadella

Evidentemente, llevamos 30 años arando en este campo. Estoy encantado de que ahora estemos haciendo grandes avances en física y tecnología de fabricación.

Ojalá tuviéramos ya ordenadores cuánticos porque, por cierto, lo primero que nos permitirían los ordenadores cuánticos es construir ordenadores cuánticos, porque sería mucho más fácil construir nuevas puertas cuánticas que simularan el nivel atómico.

Pero en cualquier caso, lo siguiente que hay que hacer es, ahora que tenemos la tecnología de fabricación, construir el primer ordenador cuántico tolerante a fallos. ordenador). Este sería el siguiente paso lógico.

Así que creo que ahora puedo decir: "Tal vez en 2027, 2028, 2029, seremos capaces de construirlo realmente". Ahora que tenemos esta puerta cuántica, ¿puedo ponerla en circuitos integrados y luego poner esos circuitos integrados en un ordenador real? Ese es el siguiente paso lógico.

Dwarkesh Patel

¿Cómo cree que será en 2027, 2028, cuando se haya construido con éxito un ordenador cuántico? ¿Será algo accesible a través de una API? ¿O será algo que utilizarán internamente para la investigación de materiales y química?

Satya Nadella

Es una gran pregunta. Una de las cosas que me han entusiasmado es que incluso en el mundo actual ...... tenemos programas de computación cuántica y les hemos añadido algunas API. El gran avance que hicimos hace unos dos años fue pensar en pilas de computación de alto rendimiento (HPC), pilas de IA y computación cuántica juntas.

De hecho, si lo piensa, verá que la IA es como un simulador de simuladores. La computación cuántica es como un simulador de la naturaleza. ¿Qué hará la computación cuántica? Por cierto, la computación cuántica no va a sustituir a la computación clásica. La computación cuántica será muy buena en lo que haga bien, y la computación clásica seguirá desempeñando un papel. ......

La computación cuántica sería muy adecuada para tareas que no requieren muchos datos, pero sí son exigentes en términos de exploración del espacio de estados. Debería ser ligera en datos, pero necesita explorar niveles exponenciales de estado. Las simulaciones son un buen ejemplo de ello: física química, biología, etc.

Una de las cosas que hemos empezado a hacer es utilizar la IA como motor de simulación. Pero se puede entrenar. En mi opinión, si se combina la IA con la computación cuántica, se podría utilizar esta última para generar datos sintéticos que la IA podría utilizar para entrenar mejores modelos de simulación de la química, la física u otras disciplinas. Las dos cosas se utilizarían de forma sinérgica.

Incluso hoy en día, estamos utilizando la computación de alto rendimiento junto con la IA. Me gustaría sustituir algunos de los componentes de la computación de alto rendimiento por ordenadores cuánticos.

Dwarkesh Patel

¿Puede decirme cómo toma estas decisiones de investigación? ¿Serán realmente rentables dentro de 20 ó 30 años, sobre todo en una empresa del tamaño de Microsoft? Obviamente, usted conoce muy bien los detalles técnicos de este proyecto. ¿Es posible que haga eso con todo lo que hace Microsoft Research?

¿Cómo saber si las apuestas que se hacen hoy darán sus frutos dentro de 20 años? ¿Es necesario que crezca orgánicamente dentro de la organización, o cómo hacer un seguimiento de todo ello?

Satya Nadella

Una de las cosas que me parece genial es que Bill Gates fundara Microsoft Research (MSR) en 1995. Creo que en la larga historia de todas las organizaciones de investigación impulsadas por la curiosidad que han creado un instituto de investigación sólo para hacer investigación básica, MSR ha construido esta ventaja institucional a lo largo de los años. Así que cuando pienso en la asignación de capital o en los presupuestos, lo primero que hacemos es poner dinero y decir: "Este es el presupuesto de Microsoft Research". Y lo hacemos todos los años, sabiendo perfectamente que la mayoría de esas apuestas no van a dar sus frutos en un plazo limitado. Tal vez el sexto CEO de Microsoft se beneficie de ello. Y en la industria tecnológica, lo doy por hecho.

Creo que lo realmente importante es que, a medida que tecnologías como la computación cuántica o los nuevos modelos maduran, ¿eres capaz de aprovechar la oportunidad? Como empresa tradicional, si nos remontamos a la historia de la industria tecnológica, nos damos cuenta de que el problema no es que la gente no invierta, sino que se necesita una cultura que sepa cómo ampliar la innovación.

Este es el verdadero problema para los directores generales y los equipos de gestión, y supone un gran reto. Requiere tanto buen juicio como una buena cultura. A veces lo hacemos bien, y a veces cometemos errores. Puedo decirte que hay miles de proyectos en Microsoft Research que deberíamos estar liderando, pero no lo hacemos. Siempre me pregunto por qué. Es porque no tenemos la confianza o el marco de pensamiento para saber no sólo cómo convertir las innovaciones en productos útiles, sino también para encontrar modelos de negocio viables y llevarlos al mercado.

Ése es el trabajo del Director General y del equipo directivo: no sólo entusiasmarse con algo, sino ser capaz de ejecutar realmente un plan completo. Es más fácil decirlo que hacerlo.

Dwarkesh Patel

Si nos referimos a los tres últimos presidentes de Microsoft, si cada uno de ellos hubiera aumentado la capitalización bursátil en un orden de magnitud, entonces, para cuando llegue su próximo avance, la capitalización bursátil de Microsoft podría ser equivalente al total de la economía mundial.

Satya Nadella

O recuerda, la economía mundial va a crecer a 10%, así que estaremos bien.

0:42:51 - Cómo Muse cambió la industria del juego

Dwarkesh Patel

Analicemos otro gran avance que acaban de realizar. Sorprendentemente, habéis lanzado dos grandes logros el mismo día, y se trata de vuestro Game World Model . Me encantaría que me hablarais de ello.

Satya Nadella

Lo hemos llamado Muse. Será un modelo de comportamiento mundial o un modelo de comportamiento humano.

Eso está muy bien. Todos sabemos que Dall-E y Sora Lo que se ha conseguido en términos de generación de modelos es increíble. Una de las direcciones que queremos explorar es el uso de datos de juegos. ¿Se pueden generar juegos coherentes y diversos? ¿Y se pueden mantener las modificaciones de los usuarios?

Ese es el objetivo de Muse. Investigadores de Microsoft Research colaboraron con uno de nuestros estudios de juegos para lograr este resultado, que es objeto de otro artículo publicado en la revista Nature.

Lo que me entusiasma es que muy pronto vamos a lanzar una serie de juegos y empezar a utilizar estos modelos, o vamos a entrenar estos modelos para generar juegos y luego empezar a jugar con ellos.

De hecho, cuando Phil Spencer (director ejecutivo de Microsoft Games) me enseñó Muse por primera vez, sostenía un mando de Xbox, un modelo que básicamente toma la información del mando y genera resultados basados en esa información. Y el resultado era coherente con el contenido del juego. Para mí fue un momento increíble. Fue como la primera vez que vimos ChatGPT Terminar frases, dibujos de Dall-E o generar vídeos de Sora. Este es un momento clave.

Dwarkesh Patel

Esta mañana he tenido la oportunidad de ver el vídeo de demostración en directo con su investigadora principal, Katja. Sólo después de hablar con ella me he dado cuenta de lo increíble que es esto. Mientras que antes utilizábamos la IA para modelar el agente, ahora somos capaces de generar un mundo de juego coherente en tiempo real simplemente utilizando la misma tecnología para modelar el mundo que rodea al agente; superpondremos el vídeo de demostración en el podcast para que todo el mundo tenga la oportunidad de verlo por sí mismo. Creo que el vídeo debería estar colgado para entonces, y también podréis verlo allí.

Eso es increíble. Durante su mandato como Consejero Delegado, ha invertido decenas de miles de millones de dólares en la creación de la división de juegos de Microsoft y en la adquisición de propiedad intelectual.

En retrospectiva, si puedes consolidar todos estos datos en un gran modelo que te proporcione la experiencia de acceder y experimentar múltiples mundos a la vez, y si es hacia donde se dirige la industria del videojuego, entonces parece una inversión muy inteligente. ¿Tiene alguna premonición al respecto?

Satya Nadella

Yo no diría que invertimos en juegos para construir modelos. Invertimos en juegos, francamente, porque -aquí hay un punto interesante sobre nuestra historia: desarrollamos nuestro primer juego antes de construir Windows. Microsoft Flight Simulator era un producto de Microsoft mucho antes de que se creara Windows.

Así que los juegos tienen una larga historia en Microsoft, y queríamos entrar en los juegos por el bien de los juegos en sí. Siempre he dicho que odio meterme en negocios que son "un medio para un fin". Tienen que ser fines en sí mismos.

Y entonces, sí, no somos un conglomerado . Somos una empresa, y tenemos que reunir todos estos activos y ser mejores propietarios añadiendo valor. Por ejemplo, el juego en la nube es una inversión natural para nosotros porque ampliará la capacidad del mercado (TAM) y ampliará la posibilidad de que la gente juegue en cualquier momento y en cualquier lugar.

Lo mismo ocurre con la IA y los juegos: creemos firmemente que podría ayudar a cambiar la industria del videojuego; es un poco como el momento CGI (imágenes generadas por ordenador) de la industria del videojuego. Es fantástico. Como mayor editor de juegos del mundo, nos ayudará. Pero al mismo tiempo, tenemos que hacer juegos de calidad. No se puede ser editor de juegos si no te centras primero en eso.

Pero el hecho de que estos activos de datos vayan a ser muy interesantes, no sólo en el espacio de los juegos, sino que vayan a ser un modelo universal de comportamiento y un modelo del mundo, es fantástico. Creo que los datos de los juegos podrían ser para Microsoft lo que YouTube es para Google. Así que estoy muy ilusionado.

Dwarkesh Patel

Sí, a eso me refería, en el sentido de que se puede tener una experiencia unificada en muchos tipos de juegos diferentes. ¿Cómo se relaciona esto con otros trabajos que Microsoft ha realizado en el pasado al margen de la IA (por ejemplo, la realidad mixta)? ¿Tal vez brinde a los estudios de juegos más pequeños la oportunidad de crear juegos de acción AAA? De aquí a cinco o diez años, ¿qué escenarios de aplicación imagina?

Satya Nadella

Hace cinco, seis, siete años, veía estas tres cosas como las piedras angulares. En aquel momento, dije que las tres grandes apuestas que queríamos hacer eran la IA, la computación cuántica y la realidad mixta. Sigo creyendo firmemente en ellas porque, en cierto sentido, ¿cuáles son las grandes cuestiones que tenemos que resolver?

Presencia. Este es el sueño de la realidad mixta. ¿Puedes crear una sensación real de presencia? Como tú y yo estamos haciendo ahora mismo con el podcast.

Francamente, creo que sigue siendo uno de los retos más difíciles de resolver. Pensaba que sería más fácil de resolver. Pero probablemente sea más difícil, probablemente por el aspecto social: llevar el dispositivo y demás.

Estamos entusiasmados con nuestro próximo proyecto con Anduril y Palmer Luckey, que impulsará el programa IVAS (Integrated Visual Augmentation System), ya que es un gran caso de uso. Seguiremos trabajando en ello.

Pero la interfaz 2D sigue siendo importante. Resulta que herramientas como Teams, gracias a la epidemia, hemos ganado realmente la capacidad de crear una sensación de presencia a través de la interfaz 2D. Creo que eso va a seguir evolucionando. Es una tendencia a largo plazo.

Ya hemos hablado de la computación cuántica, y la IA es otra área clave. Así pues, estoy analizando estas tres áreas y pensando en cómo unirlas. En última instancia, no se trata de la tecnología por la tecnología, sino de abordar algunas de las necesidades básicas que deseamos como seres humanos en nuestras vidas, y lo que es más importante, las necesitamos en nuestra economía para ser más productivos. Si de algún modo podemos hacerlo bien, entonces creo que habremos progresado de verdad.

Dwarkesh Patel

Cuando escriba su próximo libro, tendrá que explicar por qué estos tres campos se unieron casi simultáneamente, ¿verdad? Por ejemplo, podría pensar que la computación cuántica y la IA deberían hacer grandes avances en 2028 y 2025, respectivamente, pero eso no parece intrínsecamente necesario.

Satya Nadella

Así es. En cierto modo, lo que yo entiendo es: ¿Hay un avance sistémico? Para mí, la computación cuántica es un avance sistémico.

¿Hay un avance en la lógica empresarial? Para mí, la IA es un avance en la lógica empresarial, es decir, ¿puede la capa lógica razonar de una manera fundamentalmente diferente? ¿Puede sustituir el código de órdenes por un sistema de aprendizaje? En eso consiste la IA.

En cuanto a la interfaz de usuario, la clave es la sensación de presencia.

0:49:51 - Obstáculos jurídicos a la IA

Dwarkesh Patel

Volvamos a la IA. En su Publicaciones de 2017...... 2019 usted invirtió en OpenAI, muy al principio, en 2017 o incluso antes, y escribe en su libro: "También se podría decir que estamos dando a luz a una nueva especie, una cuya inteligencia puede no tener límite superior."

Por supuesto, es demasiado pronto para hablar de esto en 2017. Hemos hablado largo y tendido sobre proxies, Office Copilot, capex, etcétera. Pero si adopta una visión más macro de lo que está diciendo y considera su papel como proveedor de nube a hiperescala, como investigador de modelización y como alguien que proporciona formación, inferencia y apoyo a la investigación para la creación de nuevas especies, ¿cómo ve todo esto en su conjunto?

¿Cree que avanzaremos hacia una inteligencia sobrehumana durante su mandato como Director General?

Satya Nadella

Creo que incluso Mustafá (probablemente refiriéndose a Mustafá Suleyman, el Inflexión IA (CEO) también utiliza el término "nuevas especies". De hecho, últimamente lo utiliza con más frecuencia.

A mi entender, la confianza es absolutamente necesaria. Antes de afirmar que es tan importante como la "especie", lo primero que tenemos que asegurarnos es de construir una confianza real, ya sea a nivel individual o social, e integrarla. Ese es el verdadero dilema.

Creo que el principal factor que limitará el poder de la IA será la evolución de nuestra infraestructura jurídica ....... Nuestro orden mundial actual se basa en la noción de que los seres humanos son propietarios, tienen derechos y asumen responsabilidades. Lo primero que tenemos que plantearnos es qué significa esto para las herramientas que utilizan los humanos. Si los humanos van a delegar más poder en estas herramientas, ¿cómo evolucionará esta estructura? Hasta que no se aborden realmente estas cuestiones, no creo que tenga sentido limitarse a hablar de capacidades tecnológicas.

Dwarkesh Patel

¿Está diciendo que no podremos desplegar estas inteligencias hasta que descubramos cómo ......?

Satya Nadella

Exactamente. Porque, al fin y al cabo, no hay manera de eludir las cuestiones jurídicas. Hoy en día, no se pueden desplegar estas inteligencias a menos que alguien las garantice en nombre de la humanidad.

Y como dices, creo que por eso pienso que incluso la IA más poderosa trabaja esencialmente dentro de los límites de la autoridad delegada por el ser humano. Podrías decir, oh, eso es alineación y todo tipo de otras cuestiones. Por eso creo que hay que hacer que estos trabajos de alineación funcionen y sean verificables de alguna manera, pero no creo que se pueda desplegar una inteligencia que esté fuera de control. Por ejemplo, el problema del despegue de la IA puede ser un problema real, pero el verdadero problema estará en los tribunales antes de que se convierta en un problema real. Ninguna sociedad va a permitir que alguien diga "eso es lo que hace la IA".

Dwarkesh Patel

Sí. Bueno, hay muchas sociedades en el mundo, y me preguntaba si habría alguna que tuviera un sistema legal más indulgente. Si no se puede detener el despegue, entonces podría estar preocupado. El despegue no tiene que ocurrir en los Estados Unidos, ¿verdad?

Satya Nadella

No creemos que haya ninguna sociedad a la que no le importe, ¿verdad? Puede que haya actores deshonestos, no digo que no los haya; hay ciberdelincuentes y Estados deshonestos; siempre han existido.

Pero también es poco realista pensar que la sociedad humana en su conjunto no se preocupa por ello. Creo que a todos nos importa. Hoy sabemos cómo hacer frente a Estados y actores deshonestos. El mundo no va a quedarse de brazos cruzados y decir: "Podemos tolerarlo". Por eso me alegro de que tengamos un orden mundial en el que haya consecuencias para cualquier actor o Estado delincuente.

Dwarkesh Patel

Así es. Pero si te imaginas un escenario en el que la economía mundial crezca 10%, creo que realmente depende de que se logre la AGI, porque el valor de billones de dólares, que suena más cercano a la suma de los salarios humanos, es aproximadamente 60% de la economía. para llegar a esa escala, tienes que automatizar la mano de obra, o ayudar a la mano de obra, de una manera muy significativa.

Si esto es posible, y una vez que resolvamos las cuestiones legales implicadas, parece probable que las resolvamos incluso durante su mandato. ¿Está pensando en la inteligencia sobrehumana? ¿Es ése, por ejemplo, el logro más importante de su carrera?

Satya Nadella

Usted plantea otra cuestión. Sé que se ha debatido mucho sobre esto, a saber, 60% el trabajo ...... Otra cuestión que creo que hay que abordar, al menos en nuestras democracias. Creo que para tener una estructura social estable y una democracia que funcione, no se puede tener sólo un rendimiento del capital y no un rendimiento del trabajo. Podemos hablar de eso, pero ese trabajo 60% tiene que revalorizarse.

A mi modo de ver, que quizá podría llamarse ingenuidad, empezaremos a valorar distintos tipos de trabajo humano. El trabajo humano que hoy se considera de gran valor puede convertirse en una mercancía. Puede que haya cosas nuevas que valoremos.

Eso incluye a la gente que viene a ayudarme con la fisioterapia, o lo que sea que vayamos a valorar, pero al fin y al cabo, si no obtenemos un rendimiento de nuestro trabajo y si hay una falta de sentido y dignidad en nuestro trabajo, entonces eso va a ser otra limitación para desplegar cualquiera de estas tecnologías.

0:55:46 - Obtener la seguridad AGI correcta

Dwarkesh Patel

En cuanto a la alineación, hace dos años publicaste Sydney Bing. Para que quede claro, creo que es un ejemplo encantador, adorable y un tanto cómico de desalineación dado el estado de la técnica en ese momento.

Pero eso es porque era la era de los chatbots. Podían pensar durante 30 segundos y darte alguna respuesta graciosa o inapropiada. Pero si piensas en ese tipo de sistema - creo que un periodista del New York Times, tratando de conseguir que deje a su esposa - si piensas en el futuro, donde tienes estos agentes que pueden funcionar durante horas y semanas y meses sin fin, como autónomos AGI autónomos, y que podrían estar desalineados y estropeando las cosas de manera similar, tal vez incluso coordinándose entre sí, ¿cuáles son tus planes para el futuro? ¿De modo que cuando se tenga una AGI realmente fuerte, se pueda garantizar su seguridad?

Satya Nadella

Tienes razón. Esa es una de las razones por las que cuando asignamos recursos informáticos, solemos asignarlos para retos de alineación.

Y lo que es más importante, ¿qué tipo de entorno de ejecución vas a utilizar para supervisar todo esto? ¿Cuál es la capacidad de observación? Hoy nos enfrentamos a muchos problemas similares en la informática clásica, como la ciberseguridad. No nos limitamos a escribir software y dejarlo solo. El software es nuestro y lo controlamos. Lo vigilas en busca de ciberataques, inyecciones, etc.

Así que creo que vamos a tener que construir suficiente ingeniería de software en torno a los aspectos de despliegue de estas tecnologías y luego, dentro del modelo, lograr la alineación. Algunas de estas cuestiones son realmente científicas y otras de ingeniería, y tendremos que abordarlas una por una.

También significa que tenemos que asumir nuestra responsabilidad en todos estos ámbitos. Así que mi preferencia es desplegar estas tecnologías en áreas donde realmente se pueda controlar su alcance y escala. No se puede lanzar al mundo algo que va a causar daño, porque la sociedad no lo permitirá.

Dwarkesh Patel

Cuando tienes un agente que realmente puede hacer semanas de trabajo por ti, ¿cuáles son las garantías mínimas que quieres antes de permitir que funcione para una empresa de Fortune 500?

Satya Nadella

Creo que cuando utilizo una herramienta como Deep Research, incluso ahora, la garantía mínima que queremos obtener es que antes de tener entidades físicas, y creo que ese es el umbral, cuando se cruza ese umbral, las cosas pueden cambiar. Ese podría ser un punto clave.

Otro punto clave es, por ejemplo, los permisos del entorno de ejecución en el que se ejecuta el agente. Puede que quieras asegurarte de que está sandboxed, que no se sale de los límites del sandbox.

Dwarkesh Patel

Quiero decir, ya tenemos la búsqueda web, y está más allá de la caja de arena.

Satya Nadella

Pero incluso lo que hace con la búsqueda web y lo que escribe - por ejemplo, como usted ha dicho, si sólo está escribiendo un montón de código para hacer algunos cálculos, ¿dónde se despliega ese código? ¿Es ese código temporal y sólo se utiliza para crear resultados, o se libera al mundo?

Son cosas que puedes controlar realmente en el espacio de acción.

Dwarkesh Patel

Más allá de la cuestión de la seguridad, cuando piensas en tu propia suite de productos y consideras que si tienes una IA tan potente, entonces en algún momento se convierte en algo más que Copilot -has mencionado un ejemplo de cómo te preparas para este podcast-. -es más parecido a cómo delegas trabajo a tus colegas.

Teniendo en cuenta su actual conjunto de productos, ¿cómo sería añadir esta capacidad? Quiero decir, está la cuestión de si LLM se convertirá en un producto básico para otras cosas .

Me pregunto, si LLM es el principal punto de entrada para acceder a todas estas cosas, estas bases de datos o lienzos u hojas de Excel, etc., ¿es posible que LLM comercialice Office?

Satya Nadella

Es una pregunta interesante. Lo que yo entiendo, al menos en la primera fase, es que el LLM puede ayudarme a utilizar todas estas herramientas o lienzos de forma más eficaz para realizar mi trabajo intelectual?

Una de las mejores demostraciones que he visto fue la de una doctora que se preparaba para una Junta de Tumores. Va a asistir a una reunión de la Junta de Tumores, y lo primero que hace con Copilot es crear una agenda para la reunión, porque LLM le ayuda a analizar todos los casos, que están almacenados en algún sitio de SharePoint. Le dirá: "Oye, estos casos - obviamente, una reunión de la Junta de Tumores es una reunión de alto riesgo, y necesitas ser consciente de las diferencias entre los casos para que puedas distribuir tu tiempo sabiamente".

Incluso para la tarea de razonamiento de crear una agenda , es genial que sepa cómo asignar el tiempo. Así que utilizo LLM para esta tarea. Luego asisto a reuniones y hablo con todos mis colegas en llamadas de Teams. Me centro en el caso real en lugar de tomar notas porque ahora tienes a AI Copilot haciendo la transcripción completa. No es solo una transcripción, es una entrada en la base de datos del contenido de la reunión que se puede guardar permanentemente y a la que se puede acceder en cualquier momento.

Después sale de la sala de conferencias, tras haber discutido el caso y sin distraerse tomando notas. Es médico docente; quiere ir a preparar su curso. Así que entra en Copilot y dice: "Haz diapositivas en PowerPoint de lo que hice en la reunión del Comité de Oncología para poder explicárselo a mis alumnos".

Este es el escenario del que estoy hablando. La interfaz de usuario y el andamiaje que tengo es el lienzo que ahora se está rellenando con contenido utilizando LLM. Y el propio flujo de trabajo se está reinventando; se está realizando el trabajo de conocimiento.

He aquí un fenómeno interesante: si alguien me hubiera dicho a finales de los 80: "Vas a tener millones de documentos en tu mesa". Yo habría dicho: "¿Qué demonios significa eso?". Realmente habría pensado que mi escritorio estaría lleno de millones de documentos en papel. Pero, de hecho, tenemos millones de hojas de cálculo y millones de documentos electrónicos.

Dwarkesh Patel

Yo no, tú sí.

Satya Nadella

Están todos ahí. Lo mismo ocurrirá con los proxies. Habrá una capa de interfaz de usuario. Para mí, Office no es solo Office hoy; es la capa de interfaz de usuario del trabajo del conocimiento. Va a evolucionar a medida que evolucione el flujo de trabajo. Eso es lo que queremos construir.

Creo que las aplicaciones SaaS (software como servicio) que existen hoy en día, estas aplicaciones CRUD (crear, leer, actualizar y eliminar), van a cambiar fundamentalmente porque la lógica empresarial se va a trasladar más a la capa del agente. De hecho, otra característica interesante de mi experiencia actual con Copilot es que cuando digo: "Oye, me estoy preparando para una reunión con un cliente", todo lo que tengo que hacer es decir: "Dame todas las notas de la reunión que debería saber". Sacará información de mi base de datos CRM, sacará información de mi Microsoft Graph, creará un producto de trabajo compuesto e incluso le aplicará lógica. Creo que esto va a revolucionar las aplicaciones SaaS tal y como las conocemos hoy.

Dwarkesh Patel

El SaaS como industria podría valer cientos de miles de millones o incluso billones de dólares al año, dependiendo de cómo se cuente. Si la IA realmente puede poner patas arriba el sector del SaaS, ¿es posible que ustedes vuelvan a multiplicar por 10 la capitalización bursátil de Microsoft en la próxima década? Porque estamos hablando de billones de dólares ......

Satya Nadella

Esto también creará un enorme valor en el espacio SaaS. Una de las cosas a las que quizá no estemos prestando suficiente atención es al enorme retraso informático que existe en el mundo.

Estas herramientas de generación de código, unidas a la posibilidad de que utilice agentes para interrogar a todas sus aplicaciones SaaS y sacarles más utilidad, van a provocar la mayor explosión de aplicaciones, y se van a llamar agentes, por lo que de repente vamos a tener acceso a servicios en todos los verticales, en todos los sectores, en todas las categorías.

Así que aquí hay un valor tremendo. Usted no puede quedarse quieto. No puedes conformarte con el viejo modelo de "yo схематизировал algún proceso de negocio estrecho, tengo una interfaz de usuario en el navegador, y este es mi producto". Eso ya no va a ser el caso. Usted tiene que moverse hacia arriba y pensar "¿Cuáles son las tareas que tengo que estar involucrado?".

Querrás ser capaz de convertir tu aplicación SaaS en un gran agente que pueda participar en un mundo multiagente. Si puedes hacerlo, creo que incluso puedes aumentar el valor.

1:04:59 - 34 años en Microsoft

Dwarkesh Patel

¿Puedo hacerle algunas preguntas sobre su experiencia en Microsoft?

Satya Nadella

Por supuesto.

Dwarkesh Patel

¿Está infravalorado ser una "persona de empresa"? Has pasado la mayor parte de tu carrera en Microsoft, y es seguro decir que una de las razones por las que has sido capaz de añadir tanto valor a la empresa es porque has experimentado su cultura, historia y evolución tecnológica de primera mano. Ha acumulado todos estos conocimientos a base de progresar dentro de la empresa. ¿Deberían dirigir la empresa más personas con estos conocimientos?

Satya Nadella

Buena pregunta. No lo había pensado así antes.

Cada año de mis 34 años en Microsoft, me he entusiasmado más que pensar: "Oh, sólo soy un hombre de empresa", o lo que sea. Me tomo en serio el estatus de "hombre de empresa", incluso para cualquiera que se una a Microsoft. Se unen a Microsoft mientras piensen que pueden utilizar Microsoft como plataforma para realizar sus recompensas financieras, así como sus objetivos y sentido de propósito. Ese es el contrato entre nosotros.

Así que creo que sí, que las empresas tienen que crear una cultura en la que la gente pueda encajar y convertirse en "gente de empresa" como yo. Al menos en mi caso, Microsoft lo ha hecho bastante bien, y espero que siga así.

Dwarkesh Patel

Usted habla de un sexto Director General que tendrá la oportunidad de capitalizar la investigación que está iniciando ahora. ¿Qué está haciendo para retener a los futuros Satya Nadella para que se conviertan en futuros líderes?

Satya Nadella

Qué interesante. He estado pensando mucho en el 50 aniversario de Microsoft este año. Creo que la clave es que el objetivo no es la longevidad, sino la relevancia.

Lo que yo y los 200.000 empleados de Microsoft debemos hacer cada día es lo siguiente: ¿es lo que hacemos útil y relevante para las tendencias que vemos en el mundo, no sólo hoy, sino mañana?

Estamos en una industria en la que no hay valor de franquicia, y ese es otro problema. Si tomamos nuestro presupuesto de I+D para este año, es una completa suposición de lo que va a pasar dentro de cinco años. Tienes que adoptar esa actitud y decirte a ti mismo: "Estamos haciendo cosas que creemos que van a ser relevantes".

Así que hay que centrarse en eso. Y luego hay que reconocer que hay una cuestión de promedio de bateo y que no se puede tener éxito todas las veces: hay que tener una gran tolerancia al fracaso. Tienes que hacer suficientes intentos para poder decirte a ti mismo: "Vale, vamos a superar esto con éxito como empresa". Eso es lo que hace que esta industria sea tan delicada.

Dwarkesh Patel

Hablando de eso, antes ha mencionado que faltan dos meses para el 50 aniversario de Microsoft. Si nos fijamos en las 10 o 5 principales empresas en términos de capitalización bursátil, básicamente todas ellas, excepto Microsoft, son más jóvenes que Microsoft. Es interesante observar por qué las empresas con más éxito tienden a ser jóvenes. La vida media de una empresa Fortune 500 es de sólo 10 a 15 años.

¿Qué ha hecho Microsoft para seguir siendo relevante a lo largo de los años? ¿Cómo ha seguido reinventándose?

Satya Nadella

Me gusta el uso que hace Reed Hoffman del término "refundación". Es una mentalidad. La gente habla del modo fundador, pero para nosotros, los mortales directores ejecutivos, es más bien el modo refundación.

Ser capaz de ver las cosas bajo una nueva luz es clave. A su pregunta: ¿Podemos crear culturalmente un entorno en el que reinventarnos se convierta en un hábito? Vamos a trabajar todos los días y nos decimos: "Tenemos acciones en este lugar que pueden cambiar los supuestos básicos de lo que hacemos y cómo nos relacionamos con el mundo que nos rodea. ¿Nos permitimos hacerlo?". Creo que muchas veces las empresas pueden sentirse demasiado atadas por su modelo de negocio u otros factores. Lo que hay que hacer es liberarse de esas ataduras.

Dwarkesh Patel

¿Qué tipo de empresa crearía si dejara Microsoft?

Satya Nadelladibujar

¿La compañía que voy a empezar? Por Dios. Es el "hombre de empresa" que hay en mí pensando: "Nunca dejaré Microsoft".

Si me planteara hacer algo, creo que elegiría a alguien con ...... Cuando miro el sueño de la tecnología, siempre decimos que la tecnología es la mayor y más grande fuerza democratizadora.

Siento que por fin tenemos esa capacidad. Si hablamos del número de tokens por dólar por vatio que somos capaces de conseguir, me gustaría encontrar algunas áreas en las que se pueda aplicar, algunas áreas que estén gravemente desatendidas.

La sanidad, la educación ...... sector público también serían una opción. Si se eligen estas áreas insuficientemente atendidas en las que yo, como ciudadano de este país o miembro de esta sociedad, o ciudadano de cualquier parte, ¿mejoraría mi vida si toda esta inteligencia ampliamente suministrada pudiera traducirse en una mejor atención sanitaria, una mejor educación y mejores instituciones del sector público para atenderme? Sería un área que merecería la pena explorar.

1:10:46 - ¿Cree Satya Nadella en la inteligencia artificial?

Dwarkesh Patel

Escuchando sus respuestas a diferentes preguntas, no estoy tan seguro de que piense que la AGI es real. ¿Habrá algún día algo que pueda automatizar todo el trabajo cognitivo, como todo lo que cualquiera puede hacer en un ordenador?

Satya Nadella

Aquí es donde me confundo con la gente que habla de la definición de AGI. El trabajo cognitivo no es estático. El trabajo cognitivo existe hoy. Si tengo una bandeja de entrada para gestionar todos mis agentes, ¿es un nuevo tipo de trabajo cognitivo?

El trabajo cognitivo actual puede estar automatizado. Pero, ¿qué ocurre con el trabajo cognitivo de nueva creación? Hay que tener en cuenta ambos aspectos, y se trata de un cambio ......

Por eso hago la distinción, al menos en mi mente, de no confundir a los trabajadores del conocimiento con el trabajo del conocimiento. Hoy en día, el trabajo del conocimiento puede estar automatizado. ¿Quién dice que mi objetivo en la vida es clasificar mi correo electrónico? Dejemos que un agente de inteligencia artificial lo haga.

Pero después de ordenar mis correos, dame una tarea de trabajo cognitivo de mayor nivel como "Oye, aquí están los tres borradores que realmente quiero que revises". Es un nivel diferente de abstracción.

Dwarkesh Patel

Pero, ¿alcanzará algún día la IA el segundo nivel?

Satya Nadella

Puede que sí, pero cuando alcance el segundo nivel, habrá un tercero. ¿Por qué nos preocupa que desaparezca todo el trabajo cognitivo cuando nos ocupamos de las herramientas que han cambiado históricamente la definición de trabajo cognitivo?

Dwarkesh Patel

Seguro que ya ha oído los ejemplos, por ejemplo, que los caballos aún pueden ser útiles en determinadas zonas y que hay terrenos por los que los coches no pueden circular. Pero la pregunta es: ¿se ven caballos por las calles? ¿Se emplearán millones de caballos? Eso no va a ocurrir.

Así que la pregunta es, ¿puede ocurrir algo similar con los humanos?

Satya Nadella

Pero, ¿es esto sólo en una dimensión muy estrecha? Los seres humanos sólo llevamos 200 años valorando lo que entendemos por un determinado y estrecho "trabajo cognitivo".

Tomemos la química como ejemplo. Si la computación cuántica y la inteligencia artificial nos ayudan a investigar nuevos materiales, entonces es estupendo contar con inteligencia artificial para investigar nuevos materiales. Pero, ¿eso elimina todas las demás cosas que pueden hacer los humanos?

¿Por qué no podemos vivir en un mundo en el que tengamos una potente máquina cognitiva y sepamos que nuestra agencia cognitiva no está privada?

Dwarkesh Patel

Voy a hacer una pregunta que no te concierne a ti, sino a un escenario diferente para que puedas responder sin miedo. Suponiendo una reunión del consejo de administración de Microsoft, ¿considerarías añadir un miembro de IA al consejo? ¿Es probable que tenga suficiente criterio, conocimientos previos y comprensión general para ser un asesor útil?

Satya Nadella

Este es un buen ejemplo. Una de las características que hemos añadido es un agente facilitador en Teams. El objetivo es que, aunque todavía es pronto, ¿puede este agente facilitador ser un buen facilitador utilizando la memoria a largo plazo, no solo el contexto de la reunión, sino también el contexto del proyecto en el que estoy trabajando, el equipo, etc.?

Incluso me gustaría que existieran agentes de este tipo en las reuniones del consejo de administración, donde es fácil distraerse. Al fin y al cabo, los miembros del consejo sólo acuden una vez al trimestre e intentan digerir lo que ocurre en una empresa tan compleja como Microsoft. Un agente líder que pueda ayudar a todos los miembros humanos a mantenerse centrados y concentrarse en los asuntos importantes es fantástico.

Es realmente lo mismo que tener, como dijiste en tu pregunta anterior, tener algo que tiene una memoria infinita que incluso puede ayudarnos. Sabes, ¿cuál era la teoría de Herbert Simon? Todos somos racionalidad limitada. Así que sería genial si la racionalidad limitada humana pudiera ser resuelta por un amplificador cognitivo externo.

Dwarkesh Patel

Hablando del campo de los materiales y la química, creo que hace poco dijo. Quiere que el progreso de los próximos 250 años se haga realidad en los próximos 25 años.Ahora, cuando imagino lo que podría ocurrir en los próximos 250 años. Ahora, cuando imagino lo que podría ocurrir en los próximos 250 años, pienso en viajes espaciales, ascensores espaciales, inmortalidad y curas para todas las enfermedades. ¿Qué piensa usted de los próximos 25 años?

Satya Nadella

Hago esta pregunta porque me gusta la idea de que la revolución industrial duró 250 años. Tuvimos que pasar por todo el proceso de pasar de un sistema basado en el carbono a algo diferente.

Eso significa que hay que revisar radicalmente todo lo que se ha hecho en química en los últimos 250 años. Por eso quiero que tengamos ordenadores cuánticos que nos ayuden a obtener nuevos materiales que podamos fabricar para ayudarnos a superar todos los retos a los que nos enfrentamos aquí en la Tierra. Y luego, estoy a favor de los viajes interestelares.

Dwarkesh Patel

Fantástica. Satya, muchas gracias por dedicar tu tiempo a esta entrevista.

Satya Nadella

Muchas gracias. Esta entrevista ha sido genial. Muchas gracias.

Dwarkesh Patel

Bien, gracias.