Víctor Thu es el presidente de Datatrónuna plataforma que ayuda a las empresas a aprovechar el poder del aprendizaje automático, acelerando las implementaciones, detectando problemas temprano y aumentando la eficiencia de la gestión de múltiples modelos a escala.
Su experiencia es en marketing de productos, comercialización y gestión de productos. ¿Cómo lo llevó esta experiencia a trabajar en aprendizaje automático e inteligencia artificial?
Me encanta la tecnología y algunos de mis amigos cercanos incluso se refieren a mí como el «susurrador de tecnología». Disfruto tomando temas tecnológicos complejos y traduciéndolos a un lenguaje con el que las personas puedan relacionarse, y educarme sobre nuevas tecnologías para llegar al «por qué» detrás de las tecnologías que más le importan a las personas.
Mi primer encuentro con lo que llamo «IA moderna» fue cuando estaba viendo una presentación de un famoso profesor de IA de Stanford, el Dr. Fei-Fei Li. La presentación principal del Dr. Li fue tan cautivadora que fue un punto de inflexión para mí en mi carrera. Esa presentación me convenció de que aquí es donde quería estar a continuación. Quería ser parte de la próxima ola de tecnología donde usamos AI y ML para resolver desafíos comerciales.
Desde entonces, he estado con varias empresas emergentes de IA/ML, trabajando para usar la tecnología para abordar las necesidades comerciales reales. He trabajado muy de cerca con científicos de ML de nivel de doctorado, quienes me han brindado un tremendo conocimiento en IA/ML. Y todavía estoy aprendiendo hoy en día, ya que el espacio está evolucionando tan rápidamente.
Entonces, realmente fue mi pasión por la tecnología y cómo aprovecharla para ayudar a otros lo que me llevó a trabajar de cerca con AI/ML.
Datatron se enfoca en MLOps, para los lectores que no están familiarizados con este término, ¿podría describir específicamente qué es?
MLOps esencialmente codifica y simplifica el proceso altamente artesanal de obtener modelos de IA y ML desde el prototipo hasta la producción.
Uno de los conceptos erróneos más grandes es que una vez que los científicos de datos han creado sus modelos de IA, pueden ponerlos en producción rápidamente. Sin embargo, la realidad es que puede tomar hasta un año antes de que se pueda implementar un modelo.
La razón principal de este retraso es que las personas que tienen experiencia en el desarrollo de modelos no necesariamente tienen experiencia en ingeniería de software. Una buena comparación son los arquitectos que diseñan rascacielos, no son también los desarrolladores que los construyen.
MLOps es esencialmente el puente entre los desarrolladores de modelos y la ingeniería de software. En lugar de tener que pasar más de 12 meses para que los modelos entren en producción, MLOps puede reducir ese proceso que alguna vez fue largo a solo unos días.
En un artículo que escribió para nosotros en septiembre de 2021, discutió cómo «El principal obstáculo para poner soluciones en producción no es la calidad de los modelos, sino la falta de infraestructura para permitir que las empresas lo hagan». ¿Por qué es esto un obstáculo tan grande para la mayoría de las empresas?
Hay algunos factores que contribuyen a esto.
- La sobre romanticización del software de código abierto «gratuito». Primero quiero enfatizar que amamos el software de código abierto y creemos firmemente que ha ayudado a la industria a avanzar a pasos agigantados. Sin embargo, muchos no comprenden la complejidad del código abierto en relación con la IA y el ML. Hoy en día, hay una gran escasez de talentos de IA/ML. Cuando combina eso con la búsqueda de ingenieros de software (ingenieros de ML o ingenieros de MLOps) que sepan cómo manejar las propiedades únicas de los códigos AI/ML, espere contratar y construir una plataforma MLOps a escala empresarial internamente al descubrir las más de 300 opciones abiertas. Los proyectos MLOps de origen se están preparando para el fracaso.
- Falta de infraestructura para apoyar a los equipos de ingeniería. Las empresas necesitan un mejor entorno para preparar a los ingenieros para tener éxito. Debe haber un ancho de banda y un presupuesto adecuados para proporcionar a los equipos las herramientas correctas. La IA es una tecnología bastante nueva. Las empresas que están haciendo IA no siempre saben lo que deben hacer para obtener modelos rápidamente, razón por la cual MLOps es una herramienta tan vital.
¿Cómo resuelve el problema de falta de infraestructura el uso de MLOps?
MLOps resuelve el problema de falta de infraestructura de cuatro maneras:
También hay requisitos empresariales que a menudo no se tienen en cuenta al crear su propia herramienta MLOps, como: control de acceso basado en roles (RBAC), integración e interoperabilidad, soporte para diferentes herramientas de ML, abordaje de vulnerabilidades de seguridad y la partida inesperada de los miembros del equipo principal. .
¿Cuáles son sus puntos de vista personales sobre la importancia de la gobernanza de la IA?
Ha habido innumerables historias de terror de modelos de IA que no funcionan correctamente, desde etiquetar erróneamente a ciertos grupos de personas hasta causar pérdidas financieras masivas para empresas que cotizan en bolsa.
El gobierno de la IA es de vital importancia para las empresas cuando tienen modelos de IA funcionando en producción. Dicho esto, no es diferente de otras TI o del gobierno empresarial. Hoy, cuando su TI ejecuta aplicaciones en la nube o incluso en sus propios centros de datos, cuenta con una serie de herramientas para garantizar que las aplicaciones funcionen correctamente.
Una vez que tenga los modelos de IA en ejecución, debe contar con mecanismos y herramientas para ayudar a dar a la empresa y a los científicos de datos visibilidad sobre lo que están haciendo los modelos.
Especialmente en esta etapa incipiente de AI/ML, no existe la opción ‘configúrelo y olvídese’. Al principio, debe monitorear cómo se comporta su modelo y hacer los ajustes apropiados. Tener capacidades de monitoreo adecuadas para que pueda alertarlo cuando sus modelos se comportan fuera de los límites deseados es clave.
La gestión del riesgo de modelo (MRM) también debe tener en cuenta a las diferentes personas que participan en el desarrollo y la implementación del modelo. ¿Qué control de acceso ha implementado para garantizar la integridad de los modelos? ¿O cómo se asegura de que las personas de diferentes grupos no usen accidentalmente sus modelos para casos de uso para los que sus modelos no están diseñados? Todas las preguntas que los equipos deben hacerse.
¿Cómo ayuda Datatron con la gestión del riesgo de modelo?
MLOps permite cambios y actualizaciones rápidas del modelo. Por ejemplo, si un modelo rechaza de manera inapropiada a las personas en una solicitud de préstamo, MLOps le permite retirar el modelo y reintroducir uno nuevo, administrando ese riesgo de una manera simple.
Protege los modelos de una deriva de sesgo y mantiene las métricas clave mientras están en producción a través de un tablero simple que presenta estas métricas utilizando datos detallados profundos de una descripción general de alto nivel que los tomadores de decisiones comerciales pueden entender fácilmente.
El gobierno de IA de la plataforma Datatron proporciona un nivel superior a una capacidad de monitoreo genérica, brindando contexto y lógica adicionales que muestran una visibilidad clara del modelo que es más relevante para los casos de uso del cliente.
en un entrada en el blog en Datatron usted describió cómo Datatron estaba retomando el mantra de Reliable AI™. ¿Podría describir en su opinión lo que es esto?
Cuando se nos ocurrió esto, pensamos en cómo nos sentimos tan cómodos volando en aerolíneas comerciales hoy en día porque son muy confiables.
A pesar de todas estas conversaciones sobre IA ética, IA responsable, etc., la necesidad clave es que las empresas puedan usar AI/ML de manera confiable, como si sus empleados se subieran a un avión comercial.
El uso de términos como IA ética y responsable se debe realmente al problema de que los modelos de IA actuales no hacen lo que se supone que deben hacer y, por lo tanto, se los considera poco confiables. Las empresas no están dispuestas a utilizar IA porque no confían en que sus modelos no estén sesgados. Esto significa que sus modelos no son confiables y Datatron está decidido a cambiar eso.
¿Hay algo más que le gustaría compartir sobre Datatron?
Somos uno de los pocos jugadores de MLOps que están probados en el Super Bowl, trabajando con éxito en un escenario de alto estrés, que no es típico de una herramienta de código abierto o de inicio. El cliente, Domino’s Pizza, trabaja con Datatron para poner en funcionamiento de manera fácil y rápida los modelos de IA en producción, que luego se sometieron a la prueba definitiva durante el Super Bowl.
MLOps realmente es la forma de ayudar a los modelos de IA/ML a la producción mientras se preservan los recursos y se reducen los costos. Somos una fuente sostenible de modelos exitosos de IA/ML y servimos como catalizador de ingresos. Las empresas finalmente pueden obtener su ROI de sus proyectos de IA y ML. Independientemente de sus márgenes, puede producir resultados utilizando MLOps.
Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar Datatrón.