La IA está transformando el trading. Binance Alpha ya da acceso anticipado a tokens de proyectos de IA antes de que coticen → Explora Binance Alpha.
Espacio patrocinadoDurante este miércoles, en el marco de la conferencia Ai4 2024 celebrada en Las Vegas, se abordó un tema crítico para el futuro de los negocios: la integración de la inteligencia artificial (IA) y la automatización en el marco de la ciberseguridad.
Para ello, Kieran Norton de Deloitte LLP, experto en inteligencia artificial y automatización dentro del ámbito cibernético, exploró cómo las empresas pueden adoptar estas tecnologías de manera segura y efectiva, enfrentando los desafíos que presentan.
La adopción de IA: Más que un cambio tecnológico
El panelista explicó que la adopción de IA en los negocios no es simplemente una cuestión de incorporar una nueva tecnología. Si no más bien, que implica una transformación integral en la manera en que se gestionan los riesgos y se desarrollan las soluciones tecnológicas.
Durante la charla, sostuvo que aunque la IA generativa introduce nuevos desafíos, la mayoría de estos riesgos no son completamente nuevos. El experto destacó que muchas de las amenazas relacionadas con la ciberseguridad, como la inyección de datos o el envenenamiento de modelos, son extensiones de problemas que la industria ya ha estado manejando durante años.
Asimismo, quiso dejar un mensaje clave durante el panel: Las empresas no necesitan reinventar sus procesos para adoptar la IA. En su lugar, deben adaptar sus ciclos de vida de desarrollo de software existentes para abordar los problemas específicos que surgen con la inteligencia artificial y el aprendizaje automático (ML). Esto incluye la identificación y mitigación de seis tipos principales de riesgos: seguridad, confianza y seguridad de la información, riesgo regulatorio, privacidad, reputación y calidad de los datos.
Riesgos en la era de la IA
Por otro lado, uno de los puntos más críticos discutidos fue la naturaleza de los riesgos cibernéticos en la era de la IA. Él explicaba que aunque la IA trae consigo un conjunto de matices únicos, muchos de los riesgos fundamentales permanecen inalterados.
Por ejemplo, los riesgos de seguridad, como la inyección de datos maliciosos o el envenenamiento de modelos, pueden parecer nuevos, pero son simplemente extensiones de problemas de seguridad que han existido durante mucho tiempo. La seguridad sigue siendo una prioridad, y las empresas deben continuar gestionando configuraciones y aplicando parches, tal como lo han hecho en el pasado.
Además, la confianza y la seguridad de la información siguen siendo esenciales. El contenido malicioso, la desinformación y la manipulación de datos son problemas acentuados por las tecnologías de IA, pero no son nuevos. Del mismo modo, el riesgo regulatorio, que abarca desde la privacidad hasta la propiedad intelectual, sigue siendo un desafío que las empresas deben abordar con seriedad.
Un riesgo particularmente relevante en la era de la IA es el de la privacidad. La pérdida de información personal y el filtrado de datos a través de sistemas de IA son preocupaciones que han existido durante años, pero que ahora requieren un enfoque renovado. La calidad de los datos y el sesgo en los modelos de IA también son áreas de creciente preocupación, y las empresas deben estar preparadas para enfrentarlas con herramientas y procesos adecuados.
Integración de IA en el ciclo de vida del desarrollo de software
En cuanto a la integración de IA en el desarrollo de software, Norton mencionó que no significa que las empresas deban rediseñar por completo sus procesos. El panelista dijo que muchas de las capacidades necesarias para trabajar con IA, como la recopilación y preparación de datos, la supervisión y etiquetado, y la generación de datos sintéticos, pueden incorporarse en el ciclo de vida del desarrollo de software existente.
Asimismo, dijo que la gobernanza del riesgo tecnológico, un concepto bien establecido, sigue siendo fundamental. Sin embargo, con la adopción de IA, se requieren nuevas entradas y actualizaciones específicas.
Estas incluyen la alineación con regulaciones actualizadas, como las recomendaciones del Instituto Nacional de Estándares y Tecnología (NIST) en los Estados Unidos y las normativas de la Unión Europea. La implementación de controles específicos para la IA, como la validación de modelos y la gestión de sesgos, se convierte en una prioridad.
Es fundamental que las empresas no dupliquen los procesos existentes ni creen estructuras paralelas que aumenten la carga de trabajo. En lugar de ello, deben integrar y adaptar los procesos actuales para hacerlos más efectivos y eficientes en el contexto de la IA. Esto implica un enfoque sistemático para gobernar el riesgo, donde la estrategia, las políticas y los procedimientos sean claros y se alineen con las prioridades empresariales.
Automatización: Eficiencia en la gestión de riesgos
Otro punto a destacar del panel fue la necesidad de automatizar procesos para mejorar la eficiencia en la gestión de riesgos relacionados con la IA. El experto sugirió que el uso de herramientas automatizadas puede permitir a las organizaciones gestionar los riesgos de manera más eficaz, eliminando la dependencia de métodos manuales como hojas de cálculo o listas de control, que son ineficientes y propensas a errores.
Por ejemplo, la automatización puede ayudar en la validación de sistemas y la realización de pruebas de estrés de modelos de IA. Al integrar la IA en los sistemas de gestión de riesgos existentes, las empresas pueden acelerar la adopción de tecnologías avanzadas sin comprometer la seguridad ni la calidad.
Un futuro impulsado por la IA
Finalmente, el panel concluyó con una visión optimista del futuro de la IA en los negocios. Norton hizo mucho énfasis en que la adopción de IA y automatización, combinada con una sólida estrategia de ciberseguridad, no solo es posible, sino que es esencial para mantener la competitividad en un entorno cada vez más digitalizado.
Las empresas que logren integrar estas tecnologías de manera efectiva estarán mejor posicionadas para enfrentar los desafíos y aprovechar las oportunidades que trae consigo la era de la inteligencia artificial.
En resumen, se podría decir que la clave para un negocio exitoso impulsado por la IA radica en la adaptación de los procesos existentes, la gestión cuidadosa de los riesgos, así como la automatización de las operaciones. Las empresas que puedan hacerlo estarán a buen ritmo en la próxima revolución tecnológica.
