Buenos Aires—El panorama de la inteligencia artificial (IA) ha cambiado drásticamente en el último año con la rápida adopción de la IA generativa (GenAI). Esto dificulta que las organizaciones sean cautelosas con la tecnología y ejerce presión sobre los programas de IA responsable (RAI, por sus siglas en inglés) para mantenerse al día con los avances continuos.
Según el informe "Building Robust RAI Programs as Third-Party AI Tools Proliferate" del MIT Sloan Management Review (MIT SMR) y Boston Consulting Group (BCG), el 53% de las organizaciones utiliza exclusivamente herramientas de IA de terceros y no tienen herramientas diseñadas o desarrolladas internamente. Sin embargo, el 55% de todas las fallas relacionadas con esta tecnología, provienen justamente de herramientas de inteligencia artificial externas.
"El panorama de la IA, tanto desde el punto de vista tecnológico como normativo, ha cambiado radicalmente desde que publicamos nuestro informe el año pasado", afirma Elizabeth M. Renieris, editora invitada del SMR del MIT y coautora del informe. "De hecho, con la repentina y rápida adopción de herramientas de IA generativa, la IA se ha convertido en tema de conversación habitual. Y, sin embargo, muchos de los fundamentos siguen siendo los mismos. Este año, nuestra investigación reafirma la urgente necesidad de que las organizaciones sean responsables invirtiendo y escalando sus programas de RAI para abordar los crecientes usos y riesgos de la IA."
Tanto aquellos que ocupan posiciones de liderazgo como aquellos que no lo hacen deben tomar medidas.
Los líderes de RAI han aumentado del 16%, obtenido en nuestra primera muestra, al 29% año tras año. A pesar de este progreso, el 71% de las organizaciones no son líderes.
Con los riesgos significativos que surgen de las herramientas de IA de terceros, es hora de que la mayoría de las organizaciones redoblen sus esfuerzos en RAI.
Amplia dependencia de la IA de terceros
La gran mayoría (78%) de las organizaciones encuestadas depende en gran medida de la IA de terceros, lo que las expone a una serie de riesgos, incluido el daño a la reputación, la pérdida de confianza de los clientes, pérdidas financieras, sanciones regulatorias, desafíos de cumplimiento y litigios. Aun así, una quinta parte de las organizaciones que utilizan herramientas de IA de terceros no evalúa sus riesgos en absoluto.
Emplear una amplia variedad de enfoques y métodos para evaluar las herramientas de terceros es una estrategia efectiva para mitigar el riesgo. Las organizaciones que emplean siete métodos diferentes tienen más del doble de probabilidades de descubrir fallas que aquellas que solo usan tres (51% frente al 24%). Estos enfoques incluyen lenguaje contractual que exige el cumplimiento de los principios de RAI, precertificación y auditorías de proveedores, revisiones internas a nivel de producto y el cumplimiento de requisitos regulatorios y estándares de la industria relevantes.
Un panorama regulatorio en constante evolución
El panorama regulatorio está evolucionando casi tan rápidamente como la IA misma, con muchas regulaciones nuevas específicas de la IA que entran en vigor de manera escalonada. Aproximadamente la mitad (51%) de las organizaciones encuestadas informa estar sujetas a regulaciones no específicas de la IA que, sin embargo, se aplican a su uso de la IA, incluyendo una alta proporción de organizaciones en servicios financieros, seguros, atención médica y sectores públicos. Las organizaciones sujetas a tales regulaciones representan un 13% más de líderes de RAI que las organizaciones no sujetas a ellas. También informan de menos fallas de IA que sus contrapartes que no están sujetas a las mismas presiones regulatorias (32% frente al 38%).
El involucramiento del CEO es clave para afirmar el compromiso de una organización con la inteligencia artificial responsable
Los CEO desempeñan un papel clave tanto para afirmar el compromiso de una organización con la IA como para mantener las inversiones necesarias en ella. Las organizaciones con un CEO que desempeña un papel activo en los esfuerzos de RAI (como participar en decisiones de contratación relacionadas, discusiones a nivel de producto o establecimiento de objetivos de desempeño asociados) informan un 58% más de beneficios comerciales que las organizaciones con un CEO menos activo, independientemente de su estatus de líder. Además, las organizaciones con un CEO que participa directamente en temas asociados con la inteligencia artificial responsable, tienen más probabilidades de invertir en ella, que aquellas con un CEO menos involucrado (39% frente al 22%).
La necesidad de un mayor enfoque y acción en la implementación de la RAI en América del Sur.
América del Sur se rezaga en RAI, siendo la única región que experimentó una disminución del 3% en el porcentaje de organizaciones consideradas líderes en RAI desde 2022. La brecha en términos de madurez y adopción de RAI entre esta región y otras se está ampliando, lo que destaca la necesidad urgente de un mayor enfoque y acción en la implementación.
Cinco recomendaciones para un panorama de IA en constante cambio
El informe presenta cinco recomendaciones para las organizaciones a medida que navegan por la rápida adopción de la IA y los riesgos inherentes asociados a ella:
"La inteligencia artificial está avanzando a pasos agigantados, por lo que es momento de invertir en programas robustos de IA responsable ", asegura XX, socio de BCG. "Las compañías no pueden depender exclusivamente de terceros, necesitan poner liderazgo y recursos detrás de sus esfuerzos, tanto para generar valor al negocio como para administrar adecuadamente los riesgos asociados".
Patricia Gutiérrez
Marketing Manager
Tel. +56 2 2338 9658
Boston Consulting Group hace equipo con líderes de las empresas y de la sociedad, para enfrentar juntos sus desafíos más importantes y captar sus mejores oportunidades. Cuando se fundó en 1963, BCG fue pionero en estrategia de negocio. En la actualidad, trabajamos en estrecha colaboración con nuestros clientes para adoptar un enfoque transformacional que beneficie a todos los stakeholders, empoderando a las organizaciones a crecer, generar una ventaja competitiva sostenible e impulsar un impacto positivo para la sociedad en su conjunto.
Nuestros equipos, globales e integrados por perfiles diversos, aportan una profunda experiencia en una variedad de sectores y funciones, junto con una amplia gama de enfoques que cuestionan lo establecido e impulsan el cambio. BCG entrega soluciones a través de consultoría de gestión de vanguardia, integrando tecnología y diseño, y alianzas corporativas y digitales. Trabajamos con un modelo colaborativo único, transversal a la organización y en todos los niveles de la empresa, impulsados por el objetivo de ayudar a nuestros clientes a prosperar y permitirles hacer del mundo un lugar mejor.