cuando la infraestructura de autores: servidores para inteligencia artificial choca ... ·...

Documento N.° US43046217 © 2017 IDC. www.idc.com | Página 1

Libro blanco de IDC | Cuando la infraestructura de servidores para inteligencia artificial choca contra un muro

LA OPINIÓN DE IDCLas empresas se enfrentan a muchas incertidumbres a la hora de determinar cuál debería ser su postura con respecto a las aplicaciones de inteligencia artificial (IA) que aportan nuevos conocimientos gracias al deep learning. Las oportunidades de negocio son excepcionalmente prometedoras. No aprovecharlas podría ser desastroso para su empresa, ya que sus competidores ganan ventaja competitiva gracias a conocimientos extraídos de una gran cantidad de datos no disponibles anteriormente. La mayoría de las organizaciones están bien al tanto del desafío, y sus líneas de negocio (LOB), personal de TI, científicos de datos y desarrolladores están trabajando para definir una estrategia de IA.

IDC cree que este entorno incipiente aún no está totalmente definido, aunque las empresas ya deben tomar decisiones cruciales. ¿Conviene optar por un desarrollo interno o valerse de VAR, integradores de sistemas o consultores? ¿Deberían llevar a cabo la implementación On-Premise, en la nube o en alguna clase de forma híbrida? ¿Pueden utilizar la infraestructura existente, o las aplicaciones de IA y deep learning requieren nuevos servidores con nuevas funcionalidades? Nosotros creemos que se pueden resolver muchas de estas cuestiones comenzando con una iniciativa pequeña pero bien coordinada On-Premise, y luego ampliarla prestando mucha atención a los efectos.

Es inevitable que las empresas que emprenden este trayecto experimenten lo que ya les ha sucedido a los negocios más avanzados con aplicaciones de IA: el rendimiento de sus servidores va a chocar contra un muro. Las aplicaciones de IA, y en especial los sistemas de deep learning, que analizan cantidades de datos que crecen a una velocidad exponencial, son extremadamente exigentes y requieren funcionalidades de procesamiento paralelo muy potentes, y cada vez se hace más patente que las CPU estándar no bastan para llevar a cabo todas esas tareas de IA. Tarde o temprano cualquier usuario de IA, tanto los principiantes como los más avezados, tendrán que renovar su infraestructura para poder lograr las funcionalidades de rendimiento necesarias.

Cuando la infraestructura de servidores para inteligencia artificial choca contra un muro

Patrocinado por: IBM

Autores: Peter Rutten David Schubmehl

Septiembre de 2017



Por eso IDC recomienda que cuando las empresas estén desarrollando funcionalidades de IA o ampliando las funcionalidades de IA de que ya disponen, lo hagan de una manera estrictamente controlada, con conocimiento de causa y de todos los detalles para dar el siguiente paso en cuanto a infraestructura. Además, deben hacerlo en estrecha colaboración con un proveedor de servidores que pueda guiarlas desde las primeras etapas hasta la producción avanzada y la completa explotación de las funcionalidades de IA en toda la empresa.

Las siguientes secciones de este documento se basan en una extensa encuesta de IDC realizada a 100 empresas que adoptaron infraestructura de informática acelerada para aplicaciones de IA en los EE. UU., y también en los resultados de 8 entrevistas exhaustivas a organizaciones que están ejecutando IA en informática acelerada.

DESCRIPCIÓN DE LA SITUACIÓNLas variables al adoptar inteligencia artificialLas empresas de todo el mundo están respondiendo con entusiasmo a las nuevas oportunidades que ofrecen las cargas de trabajo de IA, que incluyen aplicaciones basadas en el aprendizaje automático (machine learning) y el aprendizaje profundo (deep learning) que usan información y datos no estructurados como combustible para impulsarlas. Algunas empresas están bien encaminadas en la implementación de cargas de trabajo de IA, otras están experimentando y un tercer grupo aún está evaluando lo que pueden significar las aplicaciones de IA para sus organizaciones. Para estos tres niveles de progreso, son muchas las variables que, si se abordan adecuadamente, pueden constituir una solución que funcione correctamente y que haga avanzar el negocio.

Para abordar estas variables, los ejecutivos de TI y de las LOB de muchas empresas, a veces en forma de comités especiales, están considerando seriamente el enfoque de su organización hacia la oportunidad de la IA. Una pregunta fundamental que se hacen es: ¿cuál es el propósito comercial de las iniciativas de IA que estamos considerando? Es un asunto importante (nadie quiere invertir en IA porque sí), pero tampoco es necesario reinventar la rueda. Existen muchos casos de uso bien definidos que se aplican a todos los sectores de la industria. Por ejemplo, IDC identificó un conjunto de casos de uso de IA:

• Análisis e investigación de fraude (sector bancario y otros)

• Asesores de programas y sistemas de recomendaciones (muchos sectores)

• Inteligencia para cumplimiento normativo (muchos sectores)

• Inteligencia para amenazas y sistemas de prevención automatizados (muchos sectores)

• Automatización de TI (casi todos los sectores)

• Recomendación y automatización en procesos de venta (sector minorista y otros)

• Diagnóstico y tratamiento (sector sanitario)



• Investigación y recomendación en gestión de calidad (sector de fabricación)

• Logística y suministros (sector de fabricación)

• Gestión de activos/flotas (casi todos los sectores)

• Gestión de cargas (sector de transporte)

• Asesores expertos en compras y recomendaciones de productos (sector minorista)

Muchos de estos casos de uso se pueden desarrollar internamente o se pueden comprar como software comercial. Algunos también están disponibles como ScuS en la nube. Esto conduce a la segunda variable: cuando una organización ha identificado un caso de uso de IA adecuado, la siguiente pregunta suele ser: ¿lo desarrollamos internamente, compramos una solución de venta comercial, contratamos a un tercero u optamos por una solución en la nube? El desarrollo interno no es fácil, pero tampoco imposible, y puede ser bastante gratificante. IDC apreció que el 23 % de las empresas no saben cuáles serían el software o los algoritmos correctos para la solución de IA que están valorando. Quizás parezca un porcentaje elevado, pero también muestra que la mayoría de las empresas fueron capaces de identificar los algoritmos correctos.

La ventaja de desarrollar una aplicación de IA interna es que la solución estará perfectamente adaptada a las necesidades de negocio, a diferencia de, por ejemplo, una solución en la nube. Además, este enfoque evita el coste de usar servicios de terceros: el 32 % de las empresas piensa que los servicios externos son demasiado costosos. Lo que no queda tan claro para muchas empresas es si deberían usar estructuras de código abierto o software comercial para desarrollar su solución de IA. El coste también juega un papel en este caso, ya que el 31 % de las empresas piensa que el coste del software cognitivo que venden los líderes del sector es demasiado alto. En consecuencia, eligen entre una amplia variedad de estructuras de código abierto que están disponibles para su descarga o que vienen incluidas con el servidor que han comprado para su iniciativa de IA.

A menudo, el siguiente tema a tener en cuenta es si la empresa cuenta con los datos adecuados para que una solución de IA sea eficaz. También en este caso IDC comprobó que la mayoría de las empresas parecen comprender muy bien qué datos necesitan, pero una cuarta parte de ellas tiene dificultades para prepararlos, lo que incluye depurarlos, etiquetarlos y transformarlos, una tarea ardua que consume muchos recursos, y también tienen problemas para gestionar el enorme volumen de datos que incorporan a la aplicación de IA. La seguridad de los datos confidenciales que se están usando para nutrir la solución de IA constituye otro motivo de preocupación. Para la preparación de los datos se puede obtener soporte de distintos proveedores, pero escoger el hardware de servidores adecuado desempeña un papel decisivo en la capacidad de gestionar volúmenes de datos con total seguridad.



Y, por supuesto, no hay que olvidar los conjuntos de habilidades que se necesitan, y si están disponibles o no. En muchos casos, los desarrolladores se forman para ser versátiles con las estructuras de IA, y este es un enfoque que ha resultado bastante eficaz. Contratar ingenieros que cuenten con las habilidades de IA totalmente desarrolladas puede ser muy costoso: casi una tercera parte de las empresas afirma que el coste de contratar personal para el software de IA es demasiado alto. Lo mismo sucede con los científicos de datos, que son necesarios para soluciones más complejas: pueden ser difíciles de encontrar y, por lo general, son costosos de contratar. Por lo tanto, es común que una empresa comience con una iniciativa de IA con un entusiasta de la empresa que estimula a los desarrolladores para que alcancen las habilidades necesarias, a veces simplemente mediante la experimentación, y que interactúa con el equipo de infraestructura para conseguir una parte suficiente del entorno con el propósito de desarrollar, probar y desplegar nuevas aplicaciones de IA.

Y, por si estas variables fueran pocas, también hay que plantearse qué infraestructura de servidores necesitan las empresas para sus iniciativas de IA. Precisamente en eso se centrará el resto de este documento. Las preguntas que surgen con respecto a la infraestructura son si una iniciativa de IA se puede poner en marcha en la infraestructura existente (digamos que es un comienzo aceptable) o si se necesita una infraestructura nueva (básicamente, sí), y cuál debería ser esa infraestructura nueva. Por supuesto, las empresas también se preguntan si pueden ejecutar su solución de IA en la nube.

Las diversas aplicaciones de IA que se utilizan en la actualidadMuchas empresas están ansiosas por incorporar funcionalidades de IA a la organización. Las investigaciones de IDC muestran que, para el año 2021, los ingresos de los proveedores provenientes de software cognitivo e infraestructura de servidores cognitivos ascenderán a 10 000 millones de dólares y 9000 millones de dólares respectivamente, y que las empresas están apostando por esta tecnología en rápido crecimiento para desarrollar nuevas capacidades competitivas. Los siguientes ejemplos, extraídos de las exhaustivas entrevistas realizadas por IDC a organizaciones que tienen aplicaciones de IA en producción o a prueba, ilustran la diversidad de soluciones y escenarios de implementación:

• Una empresa inmobiliaria mediana utiliza CognitiveScale para analizar datos de sensores de propiedades. También utiliza Dato (ex Turi), que es un motor de recomendaciones para rentas fluctuantes de propiedades, así como PTC ThingWorx y GE Predix, y PaaS que incluye modelos de aprendizaje automático para detectar anomalías, dirigir controles y predecir mantenimiento.

• Un banco importante utiliza AuthenticID para la detección de rostros, reconocimiento de voz y análisis de sentimientos, así como IBM Watson para la seguridad cibernética y para determinar comportamientos y patrones de los clientes y para crear ofertas personalizadas. El banco también está llevando a cabo una prueba de concepto (POC) con Marstone, que es un robo-advisor y una plataforma de planificación financiera, y con Saffron, una solución que permite que pequeños dispositivos realicen analítica local inteligente.



• Una empresa mediana de asistencia sanitaria ha desarrollado distintas aplicaciones internas: Alerter, que es una aplicación de aprendizaje automatizado que identifica problemas en los aparatos, y Responder, que automatiza la subsanación de esos problemas sin intervención humana. Esta empresa también está desarrollando una aplicación de deep learning con inteligencia para detectar amenazas que piensa ofrecer como servicio, y está usando HPE Haven y servicios cognitivos de Microsoft.

• Un hospital de Tailandia utiliza IBM Watson en el Departamento de Oncología para proporcionar a los médicos y al personal información completa sobre casos de cáncer comparando los datos de cada paciente con los de otros miles de casos, la información de las 5000 horas de formación de los oncólogos del Memorial Sloan Kettering Cancer Center (Nueva York), 300 publicaciones médicas, 200 manuales y 12 millones de páginas de texto.

Cuando la infraestructura de IA choca contra un muroSin embargo, IDC comprobó que la mayoría de las empresas que tienen sus aplicaciones de IA y de deep learning en modo de POC o de producción sufrieron en algún momento lo que denominamos «chocar contra el muro de la infraestructura», a veces no una sino dos veces después de adoptar una infraestructura diferente. La expresión «chocar contra un muro» se utiliza en los deportes de resistencia cuando un atleta sufre una repentina pérdida de energía y una terrible fatiga al agotarse sus reservas de glucógeno. Esta frase es una excelente metáfora de lo que les está sucediendo a las empresas con su infraestructura para cargas de trabajo de IA.

IDC les preguntó a las organizaciones qué les ocurrió cuando comenzaron a ejecutar aplicaciones de IA en la infraestructura con la que contaban previamente en sus instalaciones, y las respuestas fueron contundentes: el 77,1 % de los encuestados dijeron que se enfrentaron a más de una limitación por la infraestructura de IA de las instalaciones. Entre las que utilizaban la nube para aplicaciones cognitivas, un 90,3 % de las organizaciones sufría esas limitaciones. En la Tabla 1 se enumeran las limitaciones de la infraestructura para las aplicaciones de IA tanto On-Premise como en la nube.



Por culpa de esas dificultades con la infraestructura, las empresas atraviesan rápidos cambios generacionales. Las aplicaciones de IA y de deep learning son bastante recientes, pero IDC observó que casi el 22,8 % de las empresas se encuentra en la tercera generación de infraestructura para las aplicaciones de IA, mientras que el 37,6 % está utilizando infraestructura de segunda generación y el 39,6 % usa servidores de primera generación. Estos porcentajes indican que las empresas están buscando la infraestructura más adecuada. La Tabla 2 muestra los cambios generacionales más frecuentes para la infraestructura de servidores de IA.Moving to a system with greater processor performance (the most common action taken), greater I/O bandwidth, and accelerators is a logical decision. But this data is also showing that there is uncertainty about the ideal configuration. Some businesses have tried scale-out and moved to scale-up; some businesses have done the reverse. Other businesses started in a VM and then moved to a dedicated server, while some of their peers did the opposite.

TABLA 1 Limitaciones de la infraestructura con aplicaciones de IA (en orden de prevalencia)

TABLA 2 Cambios generacionales más comunes para la infraestructura de servidores de IA (en orden de prevalencia)

La gestión es difícil

El escalamiento es difícil

El rendimiento es limitado

No pueden completar tareas especificadas en el SLA

El almacenamiento es insuficiente

Es difícil diagnosticar problemas

Es difícil virtualizar los servidores

No existe interoperabilidad en el centro de datos

El consumo de energía es alto

La memoria es limitada

Limitaciones de la infraestructura On-Premise con aplicaciones de IA

Limitaciones de la infraestructura en la nube con aplicaciones de IA

El escalamiento es difícil

El rendimiento es limitado

El almacenamiento es insuficiente

La gestión es difícil

Es difícil diagnosticar problemas

Es difícil equilibrar las cargas

No pueden completar tareas especificadas en el SLA

El consumo de energía es alto

No existe interoperabilidad en el centro de datos

Es difícil virtualizar los servidores

Fuente: Encuesta de IDC sobre oportunidades en infraestructura de servidores cognitivos, junio de 2017

Fuente: Encuesta de IDC sobre oportunidades en infraestructura de servidores cognitivos, junio de 2017

Pasar a un mayor rendimiento de procesadores

Pasar de escalamiento horizontal a vertical

Pasar de una máquina virtual a un servidor dedicado

Pasar de escalamiento vertical a horizontal

Aportar mayor ancho de banda de E/S

Pasar de un servidor dedicado a una máquina virtual

Agregar aceleradores



Es lógico tomar la decisión de migrar a un sistema con mayor rendimiento de procesadores (la medida más frecuente), mayor ancho de banda de E/S y aceleradores. Pero estos datos también muestran que las empresas no están seguras de cuál es la configuración ideal. Algunas probaron con el escalamiento horizontal y luego pasaron al vertical, y otras hicieron lo contrario. Unas empresas comenzaron en una máquina virtual y luego pasaron a un servidor dedicado, mientras que otras hicieron lo contrario.

Estas acciones contradictorias no son tan extrañas como parecen. Las empresas están experimentando no solo con software de IA sino también con la infraestructura donde lo van a ejecutar. Algunas comenzaron con una configuración de escalamiento horizontal y, cuando su solución maduró, decidieron que necesitaban mayor rendimiento, y lo encontraron en un sistema existente de escalamiento vertical dentro del centro de datos. Otras comenzaron una POC en una partición de un sistema de escalamiento vertical, y tras llevar la solución a la siguiente etapa, decidieron migrar a un clúster de servidores de socket único y dual. Del mismo modo, es posible que una solución se haya desarrollado en una máquina virtual y luego migrado a un servidor dedicado para continuar su desarrollo en un entorno aislado en la medida de lo posible (algo que a muchas empresas les gusta hacer en las primeras etapas).

IDC cree que, para una primera etapa de experimentación y desarrollo, todos estos movimientos son lógicos. Aprovechar el entorno existente significa posponer la inversión en nueva infraestructura de servidores hasta tener claro cuál debería ser la configuración adecuada. Sin embargo, una vez que la aplicación está a punto de ponerse en marcha y lista para producción, es necesario tomar decisiones sensatas con respecto a la infraestructura para evitar «chocar contra un muro».

Si nos basamos en las respuestas que dieron las empresas que están ejecutando aplicaciones de IA, creemos que la configuración de infraestructura ideal para las aplicaciones cognitivas es un clúster de servidores de socket único y dual con aceleradores, aunque también es posible agregar los aceleradores más adelante cuando sea necesario. Una alternativa viable es un clúster de sistemas medianos, pero solo sería adecuado en el caso de una carga de trabajo que se esté ampliando con mucha rapidez. Hay otras configuraciones que podrían servir. Lo que queda claro a partir de las investigaciones entre los usuarios es que los sistemas hiperconvergentes y las máquinas virtuales resultan menos eficaces para las aplicaciones cognitivas.

¿Qué le conviene a usted?IDC cree que las empresas que actualmente están evaluando iniciativas de IA o que están pasando de una etapa de experimentación a una etapa más madura pueden adoptar alguno o (con el tiempo) varios de los enfoques de desarrollo de IA que analizaremos en las siguientes secciones.

Iniciativas de IA pequeñas y medianasPara las iniciativas de IA pequeñas y medianas lo que recomendamos es desarrollar una solución interna. Este enfoque presenta muchas ventajas. Gracias a la experimentación colaborativa, los desarrolladores, LOB, analistas de datos o científicos de datos (si los hay)



y el equipo de infraestructura obtendrán nuevos e importantes conjuntos de habilidades, además de crear una solución especialmente adaptada al negocio. Los analistas de datos y los científicos de datos pueden preparar conjuntos de datos y sus modelos relacionados, los desarrolladores pueden poner a prueba las estructuras, el equipo de infraestructura puede evaluar qué hardware desarrollar y qué usar para la producción y las LOB tendrán la oportunidad de estipular qué parámetros debería cumplir la solución. Sin embargo, es aconsejable adoptar este enfoque únicamente para proyectos de IA únicos. Si la solución deseada se puede conseguir fácilmente como software comercial, los beneficios del desarrollo interno se verán superados por el beneficio para el negocio de la rápida implementación que permite el paquete comercial.

IDC recomienda comenzar con una implementación pequeña y On-Premise. La tendencia será comenzar en un servidor dedicado un tanto aislado del resto del entorno, pero teniendo en cuenta que la integración será importante en última instancia. Si existe un componente de formación en IA, entonces el entorno deberá poder acceder a los datos destinados a la formación y el hardware tendrá que ser capaz de realizar un intenso procesamiento paralelo, idealmente con una cantidad suficiente de aceleradores, como GPU (unidades de procesamiento de gráficos). El entorno puede consistir en un clúster, algo que suelen preferir las soluciones de IA, e incluso un sistema convergente con múltiples nodos. Pero en el caso de la infraestructura de IA de primera generación, también puede servir una partición dura en un servidor de escalamiento vertical. Las máquinas virtuales o los sistemas hiperconvergentes no son tan convenientes. Si los datos son cruciales para el negocio, una partición dura en un servidor de escalamiento vertical y de clase empresarial que aloje los datos podría resultar útil, ya que la organización no tendría que sacar los datos de ese entorno seguro. Tenga en cuenta que existe una infinidad de estructuras de código abierto para el desarrollo de IA que se ejecutan únicamente en Linux.

Una vez que el equipo de infraestructura, el equipo de desarrollo y los científicos de datos se sientan cómodos con la solución, que la hayan ejecutado en producción y que hayan experimentado las posibilidades y limitaciones del software y del hardware, la empresa estará mejor parada para determinar los próximos pasos, por ejemplo: seguir construyendo funcionalidades internas y On-Premise (como actualizar o ampliar la infraestructura), agregar un componente en la nube y/o incorporar VAR o consultores.

Es esencial que durante esa etapa de prueba y error el equipo de infraestructura investigue exhaustivamente nuevas soluciones de infraestructura. Como ya se mencionó, los sistemas de IA funcionan bien en clústeres de servidores de socket único y dual de alto rendimiento por núcleo y parámetros de E/S combinados con aceleradores como GPU. El equipo no solo debería tener en cuenta los productos de servidores que ofrece su proveedor tradicional, sino también a otros proveedores, en especial a los que ofrecen una pila completa de hardware y software de IA. Algunos de estos proveedores proporcionarán ayuda en todas las etapas de la implementación de un sistema de IA, desde la selección y optimización del hardware, pasando por la pila de software, hasta los servicios de implementación y de consultoría. Recomendamos seleccionar un proveedor que haya demostrado conocer en profundidad los requisitos de infraestructura para IA y deep learning.



Asegúrese de que el proveedor pueda aconsejarlo en las primeras etapas experimentales, incluso si es con hardware existente, y que luego pueda guiar a la organización hacia una expansión On-Premise o híbrida (On-Premise y en la nube). Lo ideal es que el proveedor pueda trabajar en algunos o incluso en todos los escenarios, pequeños o grandes, es decir, que pueda servir como un asesor para la iniciativa pequeña pero también como un consultor para la siguiente etapa: una iniciativa más grande de IA.

Iniciativas más grandes de IAPara las iniciativas más grandes de IA es conveniente recibir soporte externo. El tiempo, el coste y la complejidad de desarrollar una solución de IA integral destinada a aportar innovaciones empresariales cruciales para la organización puede ser demasiado importante como para optar por un escenario de prueba y error, salvo en el caso de grandes organizaciones que cuentan con recursos significativos. Los proveedores externos de soluciones de IA pueden ayudar a implementar una solución con rapidez, al igual que los VAR o integradores de sistemas, pero serán menos flexibles y menos adaptados a las necesidades únicas de cada negocio. Un socio consultor podrá ser muy beneficioso para las iniciativas muy grandes. Por lo general, los socios consultores son costosos y se genera una dependencia a largo plazo, y el tiempo de implementación suele ser demasiado largo. Pero, por otro lado, la solución resultante estará totalmente adaptada a las necesidades de la organización y, si se ejecuta correctamente, se integrará perfectamente al centro de datos.

Para las iniciativas grandes, trabajar con un proveedor de servidores con experiencia en IA y una variedad de soluciones de IA que abarquen la pila entera de hardware y software también ofrece ventajas evidentes. El proveedor de servidores suele ser menos costoso que un socio consultor externo y tener más conocimientos en optimización y escalamiento de su propio hardware que otros proveedores de soluciones. Y esto es algo que no debe tomar a la ligera: asegúrese de que el proveedor tenga una capacidad demostrada para ampliar infraestructura para aplicaciones de IA y deep learning, porque escalar nodos de computación acelerada no es tan sencillo como escalar nodos de computación solo con CPU.

Se recomienda que las LOB, el equipo de desarrollo y el equipo de infraestructura trabajen codo con codo para asegurarse de que la solución de IA sea lo más personalizada posible y que se desarrollen conjuntos de habilidades (a través de la formación). Es importante garantizar que la empresa no termine con una solución parecida a una «caja negra» que solo el proveedor de servidores o de soluciones comprende, que no se puede ampliar fácilmente, que no se integra con el centro de datos y que tiene limitaciones de rendimiento cuando los volúmenes de transacciones o de datos comienzan a aumentar. Esto significa que ninguno de estos enfoques facilitará la tarea del equipo de infraestructura. Los proveedores de servidores de IA, los proveedores de soluciones y los consultores harán recomendaciones sobre el hardware que debería ser evaluado seriamente usando los mismos parámetros que con un desarrollo interno: rendimiento acelerado, E/S, facilidad de gestión y escalabilidad.

Algunos de estas opciones se pueden combinar, tanto en términos del enfoque como de la implementación. Por ejemplo, una solución interna se puede combinar con una solución ScuS en la nube para formar una solución híbrida, o una solución interna puede continuar con una



implementación más grande por parte de un VAR. Por último, IDC observó que la mayoría de las organizaciones no cuentan con estimaciones claras de costes de infraestructura o software para sus esfuerzos de IA. Las empresas tienen que determinar parámetros para los proyectos de IA tales como el coste del software, de la infraestructura y de la mano de obra. También deberían calcular las perspectivas de recuperar la inversión (ya sea al mejorar la productividad, reducir los costes o aumentar los ingresos) y asegurarse de que recopilan datos de acuerdo a esos parámetros a medida que el proyecto se desarrolle.

¿On-Premise o en la nube?Para algunas iniciativas más grandes de IA pueden existir soluciones ScuS, pero, como sucede con cualquier solución de software basada en la nube, las posibilidades de personalizarla serán limitadas y la escalabilidad dependerá de la infraestructura del proveedor, así como del rendimiento. Además, el coste puede resultar un problema cuando los volúmenes de datos o la cantidad de transacciones aumenten rápidamente. En el caso de datos cruciales para el negocio, datos confidenciales o que están sujetos al cumplimiento normativo, habrá que evaluar la seguridad de una solución ScuS.

IDC observó que el 65 % de las empresas que cuentan con infraestructura acelerada para aplicaciones de IA las ejecuta On-Premise; el 22 % solo On-Premise y el 43 % tanto On-Premise como en la nube. Una gran mayoría de empresas afirman que hasta ahora la experiencia en la nube fue satisfactoria, y que migrarán cargas de trabajo de IA a la nube. Pero esta migración no afectará a la distribución global de cargas de trabajo cognitivas entre todas las posibles implementaciones de los próximos 24 meses, lo que significa que el porcentaje de implementaciones On-Premise sigue siendo el mismo. Tampoco se considera que determinados casos de uso de IA sean más adecuados para las instalaciones o la nube, salvo raras excepciones. Por ejemplo, los casos de uso de IA para el diagnóstico y tratamiento suelen predominar más On-Premise que en la nube debido a la preocupación por la seguridad de los datos. Sin embargo, la comercialización para operaciones omnicanal es más frecuente en la nube. En cualquier caso, existe una clara relación para las estrategias de implementación On-Premise, en la nube y, obviamente, híbridas. Esta última estrategia probablemente sea el enfoque de implementación que ofrece más ventajas.

AceleradoresEn este documento hemos hecho referencia a los aceleradores como una manera importante de superar las limitaciones de rendimiento de la infraestructura con sistemas de IA. En esta sección explicaremos brevemente qué son los aceleradores. En especial lo que sucede con los sistemas de IA que utilizan algoritmos de deep learning, que requieren la formación en una grandísima cantidad de habilidades de informática. En algunos casos, enseñar algoritmos de deep learning con aceleradores puede disminuir las iteraciones de días a horas.

Según la definición de IDC, la «informática acelerada» es la capacidad de acelerar aplicaciones y cargas de trabajo derivando una parte del procesamiento a subsistemas adyacentes de silicio, como unidades de procesamiento de gráficos y matriz de puertas programables de campo (FPGA). La informática acelerada está ganando impulso en el mundo empresarial a la hora de



buscar soluciones para superar las limitaciones de las CPU para cargas de trabajo tales como aplicaciones de IA.

Las GPU son especialmente atractivas para las empresas, ya que se pueden comprar como producto terminado y utilizan bibliotecas estándar que pueden incorporarse fácilmente a las aplicaciones. Sin embargo, otras tecnologías que ofrecen un rendimiento potencialmente más alto por vatio, como los FPGA, procesadores con muchos núcleos y circuitos integrados específicos de la aplicación (ASIC) también están cobrando impulso:

• Una GPU realiza cálculos de vector y matriz que sirven de base para las capas de redes neurales. Las GPU lo hacen de manera paralela, proporcionando velocidades de capacitación enormemente mejoradas con una mayor eficiencia energética.

• Un microprocesador con muchos núcleos está optimizado para el paralelismo y/o la vectorización sin utilizar un acelerador externo. Este tipo de microprocesador tiene más núcleos que una CPU multinúcleo típica, y forma parte de una arquitectura destinada a maximizar las tasas de transferencia de datos entre el procesador, el caché y la memoria. También se encarga de las funciones tradicionales de una CPU.

• Un coprocesador es una tarjeta PCIe que se utiliza para acelerar cargas de trabajo paralelas. Incorpora un procesador con muchos núcleos e incorpora caché y memoria, así como un kernel de sistema operativo, pero necesita una CPU para arrancar.

• Un FPGA es un circuito integrado diseñado para ser configurado por el cliente después de la fabricación usando un lenguaje de alto nivel o descripción de hardware. Los FPGA se componen de un arreglo de bloques lógicos, interconectores y bloques de E/S programables, y también pueden ser reconfigurados.

• Un ASIC es un circuito integrado construido para un propósito específico que no puede ser reconfigurado después de fabricado.

• Un interconector es una conexión de datos entre una GPU, un FPGA o un ASIC y una CPU. Un interconector PCIe tiene un ancho de banda máximo en un solo sentido de aproximadamente 16GBps, mientras que NVLink 2.0 de NVIDIA tiene un ancho de banda máximo en un solo sentido de 150GBps.

La mayoría de las empresas más pequeñas optan por comprar aceleradores como parte de un servidor a un proveedor de servidores. Este es un buen enfoque, ya que la mayoría de los principales proveedores tienen una solución de servidor acelerado. Las empresas más grandes también recurren a VAR o integradores de sistemas, o compran directamente a un proveedor de aceleradores. Esto les proporciona más flexibilidad, ya que los VAR e integradores de sistemas podrán entregar una solución más personalizada, mientras que comprar directamente al proveedor ofrece total flexibilidad para instalar aceleradores.



Cuando compre aceleradores como parte de un servidor seguramente el precio sea mayor. Hasta el momento existen pocos estudios comparativos para determinar el rendimiento extra que ofrece un acelerador como parte de un servidor determinado, pero las investigaciones de IDC muestran que las empresas que han comprado esos sistemas consideran, por norma general, que el aumento de precio es aceptable para un incremento determinado en el rendimiento total (Tabla 3).

La aceleración es muy eficaz pero no siempre es la solución definitiva para las limitaciones de infraestructura. Depende en gran medida del rendimiento del núcleo del servidor, del tipo de aceleración elegida, el tipo de interconector y otros factores tales como el software y los datos. Por eso es fundamental que las empresas no piensen tan solo en el tipo y cantidad de aceleradores, sino también en qué tipo de servidores se instalarán, incluyendo el rendimiento por núcleo y el ancho de banda de E/S. Es esencial seleccionar un sistema equilibrado, en especial para las organizaciones que se encuentran en la etapa de experimentación con IA probando distintos modelos, ya que cada uno afectará al sistema de manera diferente.

PERSPECTIVAS FUTURASIDC supone que las aplicaciones de IA no solo van a proliferar rápidamente como soluciones aparte, sino que también se comenzarán a incorporar a todas las demás cargas de trabajo. A largo plazo, todas las cargas de trabajo tendrán un componente de IA que quizás esté integrado de manera inseparable en una aplicación. Esto significa que hay que capacitar una y otra vez cada vez más aplicaciones usando técnicas de deep learning. Por lo tanto, suponemos que habrá un aumento significativo en los datos y algoritmos que van a requerir las correspondientes capacidades de infraestructura para ejecutarse correctamente y en el plazo debido (ya sea en tiempo real o casi en tiempo real).

Esto está íntimamente relacionado con nuestra expectativa de estarnos acercando al final del centro de datos homogéneo porque diversos tipos de procesadores que no son los clásicos x86 están subsanando las brechas de rendimiento que las aplicaciones de IA han puesto de manifiesto. Los otros procesadores pueden ser CPU o aceleradores diferentes, o una combinación de ambos.

TABLA 3 Aumentos de precio aceptables para determinados aumentos del rendimiento

25

75

100

50

19

31

25

36

Aumento del rendimiento (%) Aumento del precio (%)

Fuente: IDC’s Cognitive Server Infrastructure Opportunities Survey, June 2017



DESAFÍOS y OPORTUNIDADESDesafío• Imperalaconfusión: Las empresas no están seguras de qué casos de uso de IA les

aportarán beneficios empresariales, qué conjuntos de habilidades necesitan para traer habilidades de IA a sus instalaciones, con qué software deberían desarrollar esas aplicaciones, cuáles deberían ser la infraestructura y el modelo de implementación o con qué opciones de tecnologías aceleradas cuentan para superar las limitaciones de la infraestructura actual de servidores.

Oportunidad• InformáticadeIAeficazyeficiente: IDC cree que de todo este entorno caótico surgirá

un modelo para la informática de IA eficaz y eficiente: los proveedores que trabajen estrechamente con los clientes para experimentar, ampliar y, en última instancia, llevar funcionalidades de IA a toda su empresa van a desarrollar los medios necesarios para definir los modelos de IA correctos desde el punto de vista del hardware, software e implementación, y van a lanzarlos al mercado. Estos proveedores serán los líderes del mañana en el sector de la informática de IA. Las empresas deberían tratar de identificar a esos nuevos líderes para sus iniciativas de IA.

CONCLUSIÓNIDC ha observado que, para las empresas que están comenzando con IA y deep learning,

es común pasar por un período de prueba y error con el hardware existente. A la hora

de investigar algoritmos de deep learning y aplicaciones de IA, se debe promover la

experimentación con la infraestructura de servidores sobre la cual ejecutar esas nuevas

cargas de trabajo, así como la predisposición de los proveedores de servidores para ayudar

(tal vez de manera altruista) a sus clientes mientras atraviesan esta etapa tan complicada.

Pero, al mismo tiempo, el equipo de infraestructura debe prepararse para la próxima etapa,

en la que se iniciará la producción para las aplicaciones de IA que se están desarrollando.

La IA y el deep learning son extremadamente exigentes en cuanto a infraestructura de

servidores y utilizan configuraciones específicas, características de CPU, funcionalidades de

E/S, aceleradores e interconectores entre la CPU y los aceleradores. Para muchas iniciativas



de IA, ya sean pequeñas o grandes, las empresas se benefician con el soporte que pueden

obtener de distintas fuentes. Pero quizás la mejor opción sea que ese soporte provenga de

un proveedor de servidores que ofrezca una pila completa de hardware y software de IA

dentro de una estrategia de soporte integral que abarque desde la etapa experimental inicial

hasta la implementación escalable y bien integrada de la solución de IA.

Acerca de IDC International Data Corporation (IDC) es el principal proveedor global de inteligencia de mercado, servicios de consultoría y eventos para los mercados de tecnología de la información, telecomunicaciones y tecnología de consumo. IDC ayuda a profesionales de TI, ejecutivos de negocios y a la comunidad de inversores en las decisiones sobre compra de tecnología y estrategia de negocio con hechos. Más de 1100 analistas de IDC ofrecen información mundial, regional y local sobre tecnología y oportunidades y tendencias de la industria en más de 110 países de todo el mundo. Durante 50 años, IDC ha suministrado información estratégica para ayudar a nuestros clientes a alcanzar sus objetivos comerciales clave. IDC es una subsidiaria de IDG, la empresa líder mundial en medios tecnológicos, investigación y eventos.

Sede mundial de IDC

5 Speen Street Framingham, MA 01701 EE. UU. 508.872.8200 Twitter: @IDC idc-insights-community.com www.idc.com

AvisodeCopyright

Publicación externa de información y

datos de IDC: cualquier información

de IDC que se utilice en materiales

publicitarios, comunicados de

prensa o promocionales requiere

el permiso previo por escrito del

vicepresidente o del gerente regional

de IDC correspondiente. La solicitud

de permiso debe enviarse junto con

una versión preliminar del documento

propuesto. IDC se reserva el derecho

de denegar la aprobación de uso

externo por cualquier motivo.

Copyright 2016 IDC.

Está prohibida su reproducción sin

permiso escrito.

cuando la infraestructura de autores: servidores para inteligencia artificial choca ... ·...

Documents