¿Cómo puede Amazon usar chips AWS personalizados para ponerse al día con Microsoft y Google en el campo AI?
Según CNBC, el equipo de Amazon está diseñando dos chips, inferentia y capacitación con nombre en código, para capacitar y acelerar la inteligencia artificial generativa.Estos chips proporcionan una opción alternativa para los clientes de Amazon Cloud Services AWS para capacitar modelos de idiomas grandes en lugar de procesadores de gráficos NVIDIA.Actualmente, la adquisición de GPU se ha vuelto cada vez más difícil y costosa, y estos chips personalizados pueden proporcionar a los clientes de AWS soluciones alternativas para capacitar modelos de idiomas grandes en chips Nvidia.
El CEO de Amazon Cloud Technology, Adam Selipsky, dijo en junio de este año: "El mundo espera tener más chips para la inteligencia artificial generativa, ya sean GPU o las chips autodesarrolladas de Amazon que estamos diseñando
Sin embargo, otras compañías han tomado medidas más rápidas e han invertido más fondos para ganar negocios de la ola de inteligencia artificial generativa.Cuando Operai lanzó ChatGPT en noviembre del año pasado, Microsoft llamó la atención generalizada por sus chatbots y una inversión de $ 13 mil millones en OpenAI.La compañía rápidamente agregó modelos generativos de inteligencia artificial a sus productos y los fusionó en Bing en febrero de este año.
En el mismo mes, Google lanzó su propio modelo de lenguaje a gran escala, Bard, y posteriormente invirtió $ 300 millones en el competidor de Operai Anthrope.
No fue hasta abril que Amazon anunció el lanzamiento de su propia serie de modelos de idiomas grandes (llamada Titan) y un servicio de bloqueo de cama para ayudar a los desarrolladores a utilizar el software generativo de mejora de IA.
Amazon no está acostumbrado a perseguir el mercado.Amazon está acostumbrado a crear el mercado.Creo que por primera vez en mucho tiempo, se han encontrado en desventaja y están trabajando duro para ponerse al día ", dijo Chirag Dekate, vicepresidente analista de Gartner.
Meta ha lanzado recientemente sus propios modelos principales de Llama 2.Este competidor de CHATGPT de código abierto ahora se puede probar en Azure Public Cloud de Microsoft.
Las chips son 'verdadera diferenciación'
Dekate declaró que a la larga, los chips personalizados de Amazon pueden darle una ventaja en el campo de la inteligencia artificial generativa,
Creo que la verdadera diferenciación radica en las capacidades técnicas que ejercen, ya que Microsoft no tiene chips personalizados para capacitación o inferencia.
AWS comenzó a producir chips personalizados en 2013, utilizando un hardware especializado llamado Nitro, que ahora es el chip AWS más vendido.Amazon afirma que cada servidor de AWS tiene al menos uno, con un uso total de más de 20 millones.
En 2015, Amazon adquirió la startup de chips israelí Annapurna Labs.En 2018, Amazon lanzó el chip de servidor basado en ARM Graviton, que es un competidor de X86 CPU de gigantes como AMD e Intel.
ARM puede representar un dígito alto de un solo dígito o incluso el 10% de las ventas totales del servidor, con una gran parte proveniente de Amazon.Por lo tanto, les está yendo bastante bien en términos de CPU ", dijo Stacy Rasgon, analista senior de Bernstein Research.
También en 2018, Amazon lanzó chips centrados en la inteligencia artificial.Hace dos años, Google anunció el lanzamiento de su primera unidad de procesador tensor (TPU).Microsoft aún no ha anunciado que está desarrollando el chip Athena AI, que según los informes se desarrolla en colaboración con AMD.
Matt Wood, vicepresidente de Amazon Products, explicó los usos de los chips de capacitación e inferentia.
El aprendizaje automático se divide en estas dos etapas diferentes.Por lo tanto, entrena modelos de aprendizaje automático y luego infiere estos modelos capacitados ", dijo Wood. En comparación con cualquier otro método de entrenamiento de modelos de aprendizaje automático en AWS, la capacitación ha mejorado su rentabilidad en aproximadamente un 50%
Tras el lanzamiento de Inferentia en 2019 (actualmente en su segunda generación), la capacitación se lanzó por primera vez en 2021.
Inferentia "proporciona una inferencia de aprendizaje automático automático de muy bajo costo, alto rendimiento y de baja latencia, lo que significa que cuando ingresa un aviso en un modelo de inteligencia artificial generativo, todas las predicciones se procesan aquí para dar una respuesta", dijo Wood.
Sin embargo, actualmente, la GPU de Nvidia sigue siendo el rey en términos de modelos de entrenamiento.En julio de este año, AWS lanzó un nuevo hardware de aceleración de IA compatible con NVIDIA H100.
Rasgon dijo: "Los chips nvidia tienen un gran ecosistema de software, y en los últimos 15 años, el ecosistema de software construido a su alrededor no ha sido paralelo por otras compañías. Actualmente, el mayor ganador en inteligencia artificial es Nvidia
Aprovechando las ventajas de la nube
Sin embargo, el dominio de la nube de AWS es un factor de diferenciación importante para Amazon.
Amazon no necesita atención adicional.Amazon ya tiene una base de instalación en la nube muy fuerte.Todo lo que necesitan hacer es descubrir cómo permitir que los clientes existentes aprovechen la inteligencia artificial generativa para extenderse a las actividades de creación de valor ", dijo Dekate.
Al elegir inteligencia artificial generativa entre Amazon, Google y Microsoft, millones de clientes de AWS pueden sentirse atraídos por Amazon, ya que ya están familiarizados con Amazon y ejecutan otras aplicaciones y almacenan datos allí.
Mai Lan Tomsen Bukovec, Vicepresidente de Tecnología AWS, explicó: "Esta es una cuestión de velocidad. Qué tan rápido estas compañías pueden desarrollar estas aplicaciones generativas de inteligencia artificial depende de cómo comienzan con los datos en AWS y usan las herramientas de aprendizaje automático y automáticamente nosotros.proporcionar para conducirlo
Según Gartner Data, AWS es el proveedor de computación en la nube más grande del mundo, con una cuota de mercado del 40% en 2022. Aunque la ganancia operativa de Amazon ha disminuido interanual durante tres trimestres consecutivos, AWS aún representa el 70% de los $ 7.7 mil millones de Amazon de $ 7.7 mil millonesganancias operativas en el segundo trimestre.Desde una perspectiva histórica, el margen de beneficio operativo de AWS es mucho más alto que Google Cloud.
Además, AWS también tiene una cartera creciente de herramientas de desarrolladores centradas en la inteligencia artificial generativa.Swami Sivasubramanian, vicepresidente de base de datos, análisis y aprendizaje automático en AWS, dijo: "Volvamos el reloj, incluso antes de Chatgpt. No es como después de eso, de repente nos apresuramos con un plan porque no se puede diseñar un nuevoChip en ese ayuno, y mucho menos establecer un servicio básico en 2 a 3 meses
La lámpara de cama puede proporcionar a los clientes de AWS acceso a modelos de idiomas grandes desarrollados por Antiopic, Stability AI, AI21 Labs y Amazon Titan.Sivasubramanian dijo: "No creemos que un modelo gobierne el mundo. Queremos que nuestros clientes tengan modelos de vanguardia de múltiples proveedores porque elegirán las herramientas adecuadas para el trabajo adecuado.
Uno de los últimos productos de inteligencia artificial de Amazon es AWS HealthScribe, que se lanzó en julio y tiene como objetivo ayudar a los médicos a redactar resúmenes de visitas al paciente utilizando inteligencia artificial generativa.Amazon también tiene un centro de aprendizaje automático llamado Sagemaker, que proporciona servicios como algoritmos y modelos.
Otra herramienta importante es Codewhisperer, que Amazon dice que ha aumentado la velocidad de finalización de la tarea de los desarrolladores en un promedio de 57%.El año pasado, Microsoft también informó que su herramienta de codificación GitHub Copilot ha mejorado la eficiencia laboral.
En junio de este año, AWS anunció una inversión de $ 100 millones para establecer un centro generativo de innovación de inteligencia artificial.Adam Selipsky, CEO de AWS, dijo: "Tenemos muchos clientes que desean una tecnología generativa de inteligencia artificial, pero no necesariamente saben lo que significa para ellos en su propio contexto comercial. Por lo tanto, presentaremos arquitectos de soluciones, ingenieros, estrategas,, estrategas,y científicos de datos para trabajar con ellos uno a uno
Aunque AWS hasta ahora se ha centrado principalmente en desarrollar herramientas en lugar de construir competidores para CHATGPT, un correo electrónico interno filtrado recientemente muestra que el CEO de Amazon, Andy Jassy, supervisa directamente un nuevo equipo central que también está construyendo modelos de idiomas grandes escalables.
Durante el segundo trimestre, la conferencia de conferencia financiera del informe financiero, Jia Xi declaró que una "porción significativa" del negocio de AWS ahora está impulsada por la inteligencia artificial y su apoyo a más de 20 servicios de aprendizaje automático, con clientes como Philips, 3M, Old Mutual y HSBC.
El crecimiento explosivo de la inteligencia artificial ha provocado una serie de preocupaciones de seguridad, ya que a las empresas les preocupa que los empleados incorporen información patentada en los datos de capacitación utilizados en el modelo de lenguaje común.
Adam Selipsky dijo: "No puedo decirle cuántas compañías de Fortune 500 con las que he contactado han discapacitado a ChatGPT. Por lo tanto, a través de nuestros métodos generativos de inteligencia artificial y servicios de bloqueo de cama, cualquier cosa que haga y use a través de una bloque. Se encriptará y tendrá el mismo control de acceso de AWS
En la actualidad, Amazon solo está acelerando la promoción de la inteligencia artificial generativa, alegando que los clientes "más de 100000" están utilizando el aprendizaje automático en AWS.Aunque esto solo representa una pequeña porción de los millones de clientes de AWS, los analistas dicen que esta situación puede cambiar.
No vemos a las empresas que dicen: 'Oh, espera un minuto, Microsoft ya lidera en inteligencia artificial generativa.Salgamos y cambiemos nuestra estrategia de infraestructura, trasladando todo a Microsoftware.Si ya es cliente de Amazon, es probable que explore el ecosistema de Amazon más ampliamente ''.
El CEO de Amazon Cloud Technology, Adam Selipsky, dijo en junio de este año: "El mundo espera tener más chips para la inteligencia artificial generativa, ya sean GPU o las chips autodesarrolladas de Amazon que estamos diseñando
Sin embargo, otras compañías han tomado medidas más rápidas e han invertido más fondos para ganar negocios de la ola de inteligencia artificial generativa.Cuando Operai lanzó ChatGPT en noviembre del año pasado, Microsoft llamó la atención generalizada por sus chatbots y una inversión de $ 13 mil millones en OpenAI.La compañía rápidamente agregó modelos generativos de inteligencia artificial a sus productos y los fusionó en Bing en febrero de este año.
En el mismo mes, Google lanzó su propio modelo de lenguaje a gran escala, Bard, y posteriormente invirtió $ 300 millones en el competidor de Operai Anthrope.
No fue hasta abril que Amazon anunció el lanzamiento de su propia serie de modelos de idiomas grandes (llamada Titan) y un servicio de bloqueo de cama para ayudar a los desarrolladores a utilizar el software generativo de mejora de IA.
Amazon no está acostumbrado a perseguir el mercado.Amazon está acostumbrado a crear el mercado.Creo que por primera vez en mucho tiempo, se han encontrado en desventaja y están trabajando duro para ponerse al día ", dijo Chirag Dekate, vicepresidente analista de Gartner.
Meta ha lanzado recientemente sus propios modelos principales de Llama 2.Este competidor de CHATGPT de código abierto ahora se puede probar en Azure Public Cloud de Microsoft.
Las chips son 'verdadera diferenciación'
Dekate declaró que a la larga, los chips personalizados de Amazon pueden darle una ventaja en el campo de la inteligencia artificial generativa,
Creo que la verdadera diferenciación radica en las capacidades técnicas que ejercen, ya que Microsoft no tiene chips personalizados para capacitación o inferencia.
AWS comenzó a producir chips personalizados en 2013, utilizando un hardware especializado llamado Nitro, que ahora es el chip AWS más vendido.Amazon afirma que cada servidor de AWS tiene al menos uno, con un uso total de más de 20 millones.
En 2015, Amazon adquirió la startup de chips israelí Annapurna Labs.En 2018, Amazon lanzó el chip de servidor basado en ARM Graviton, que es un competidor de X86 CPU de gigantes como AMD e Intel.
ARM puede representar un dígito alto de un solo dígito o incluso el 10% de las ventas totales del servidor, con una gran parte proveniente de Amazon.Por lo tanto, les está yendo bastante bien en términos de CPU ", dijo Stacy Rasgon, analista senior de Bernstein Research.
También en 2018, Amazon lanzó chips centrados en la inteligencia artificial.Hace dos años, Google anunció el lanzamiento de su primera unidad de procesador tensor (TPU).Microsoft aún no ha anunciado que está desarrollando el chip Athena AI, que según los informes se desarrolla en colaboración con AMD.
Matt Wood, vicepresidente de Amazon Products, explicó los usos de los chips de capacitación e inferentia.
El aprendizaje automático se divide en estas dos etapas diferentes.Por lo tanto, entrena modelos de aprendizaje automático y luego infiere estos modelos capacitados ", dijo Wood. En comparación con cualquier otro método de entrenamiento de modelos de aprendizaje automático en AWS, la capacitación ha mejorado su rentabilidad en aproximadamente un 50%
Tras el lanzamiento de Inferentia en 2019 (actualmente en su segunda generación), la capacitación se lanzó por primera vez en 2021.
Inferentia "proporciona una inferencia de aprendizaje automático automático de muy bajo costo, alto rendimiento y de baja latencia, lo que significa que cuando ingresa un aviso en un modelo de inteligencia artificial generativo, todas las predicciones se procesan aquí para dar una respuesta", dijo Wood.
Sin embargo, actualmente, la GPU de Nvidia sigue siendo el rey en términos de modelos de entrenamiento.En julio de este año, AWS lanzó un nuevo hardware de aceleración de IA compatible con NVIDIA H100.
Rasgon dijo: "Los chips nvidia tienen un gran ecosistema de software, y en los últimos 15 años, el ecosistema de software construido a su alrededor no ha sido paralelo por otras compañías. Actualmente, el mayor ganador en inteligencia artificial es Nvidia
Aprovechando las ventajas de la nube
Sin embargo, el dominio de la nube de AWS es un factor de diferenciación importante para Amazon.
Amazon no necesita atención adicional.Amazon ya tiene una base de instalación en la nube muy fuerte.Todo lo que necesitan hacer es descubrir cómo permitir que los clientes existentes aprovechen la inteligencia artificial generativa para extenderse a las actividades de creación de valor ", dijo Dekate.
Al elegir inteligencia artificial generativa entre Amazon, Google y Microsoft, millones de clientes de AWS pueden sentirse atraídos por Amazon, ya que ya están familiarizados con Amazon y ejecutan otras aplicaciones y almacenan datos allí.
Mai Lan Tomsen Bukovec, Vicepresidente de Tecnología AWS, explicó: "Esta es una cuestión de velocidad. Qué tan rápido estas compañías pueden desarrollar estas aplicaciones generativas de inteligencia artificial depende de cómo comienzan con los datos en AWS y usan las herramientas de aprendizaje automático y automáticamente nosotros.proporcionar para conducirlo
Según Gartner Data, AWS es el proveedor de computación en la nube más grande del mundo, con una cuota de mercado del 40% en 2022. Aunque la ganancia operativa de Amazon ha disminuido interanual durante tres trimestres consecutivos, AWS aún representa el 70% de los $ 7.7 mil millones de Amazon de $ 7.7 mil millonesganancias operativas en el segundo trimestre.Desde una perspectiva histórica, el margen de beneficio operativo de AWS es mucho más alto que Google Cloud.
Además, AWS también tiene una cartera creciente de herramientas de desarrolladores centradas en la inteligencia artificial generativa.Swami Sivasubramanian, vicepresidente de base de datos, análisis y aprendizaje automático en AWS, dijo: "Volvamos el reloj, incluso antes de Chatgpt. No es como después de eso, de repente nos apresuramos con un plan porque no se puede diseñar un nuevoChip en ese ayuno, y mucho menos establecer un servicio básico en 2 a 3 meses
La lámpara de cama puede proporcionar a los clientes de AWS acceso a modelos de idiomas grandes desarrollados por Antiopic, Stability AI, AI21 Labs y Amazon Titan.Sivasubramanian dijo: "No creemos que un modelo gobierne el mundo. Queremos que nuestros clientes tengan modelos de vanguardia de múltiples proveedores porque elegirán las herramientas adecuadas para el trabajo adecuado.
Uno de los últimos productos de inteligencia artificial de Amazon es AWS HealthScribe, que se lanzó en julio y tiene como objetivo ayudar a los médicos a redactar resúmenes de visitas al paciente utilizando inteligencia artificial generativa.Amazon también tiene un centro de aprendizaje automático llamado Sagemaker, que proporciona servicios como algoritmos y modelos.
Otra herramienta importante es Codewhisperer, que Amazon dice que ha aumentado la velocidad de finalización de la tarea de los desarrolladores en un promedio de 57%.El año pasado, Microsoft también informó que su herramienta de codificación GitHub Copilot ha mejorado la eficiencia laboral.
En junio de este año, AWS anunció una inversión de $ 100 millones para establecer un centro generativo de innovación de inteligencia artificial.Adam Selipsky, CEO de AWS, dijo: "Tenemos muchos clientes que desean una tecnología generativa de inteligencia artificial, pero no necesariamente saben lo que significa para ellos en su propio contexto comercial. Por lo tanto, presentaremos arquitectos de soluciones, ingenieros, estrategas,, estrategas,y científicos de datos para trabajar con ellos uno a uno
Aunque AWS hasta ahora se ha centrado principalmente en desarrollar herramientas en lugar de construir competidores para CHATGPT, un correo electrónico interno filtrado recientemente muestra que el CEO de Amazon, Andy Jassy, supervisa directamente un nuevo equipo central que también está construyendo modelos de idiomas grandes escalables.
Durante el segundo trimestre, la conferencia de conferencia financiera del informe financiero, Jia Xi declaró que una "porción significativa" del negocio de AWS ahora está impulsada por la inteligencia artificial y su apoyo a más de 20 servicios de aprendizaje automático, con clientes como Philips, 3M, Old Mutual y HSBC.
El crecimiento explosivo de la inteligencia artificial ha provocado una serie de preocupaciones de seguridad, ya que a las empresas les preocupa que los empleados incorporen información patentada en los datos de capacitación utilizados en el modelo de lenguaje común.
Adam Selipsky dijo: "No puedo decirle cuántas compañías de Fortune 500 con las que he contactado han discapacitado a ChatGPT. Por lo tanto, a través de nuestros métodos generativos de inteligencia artificial y servicios de bloqueo de cama, cualquier cosa que haga y use a través de una bloque. Se encriptará y tendrá el mismo control de acceso de AWS
En la actualidad, Amazon solo está acelerando la promoción de la inteligencia artificial generativa, alegando que los clientes "más de 100000" están utilizando el aprendizaje automático en AWS.Aunque esto solo representa una pequeña porción de los millones de clientes de AWS, los analistas dicen que esta situación puede cambiar.
No vemos a las empresas que dicen: 'Oh, espera un minuto, Microsoft ya lidera en inteligencia artificial generativa.Salgamos y cambiemos nuestra estrategia de infraestructura, trasladando todo a Microsoftware.Si ya es cliente de Amazon, es probable que explore el ecosistema de Amazon más ampliamente ''.