Los sistemas de IA generativa están acelerando los resultados comerciales y están teniendo un impacto en una amplia gama de industrias, desde el marketing hasta el cuidado de la salud, el diseño de productos hasta las finanzas. Gartner destaca que el 45 por ciento de las organizaciones están ampliando la IA generativa en múltiples funciones comerciales, y las funciones orientadas al cliente son las que registran la mayor inversión.
El uso de estos modelos innovadores sigue creciendo y transformando las operaciones comerciales, y con esto surgen muchos desafíos nuevos en materia de cumplimiento de la privacidad. Según la serie de investigaciones Salesforce’s Generative AI Snapshot Research Series, el 60 por ciento de los empleados encuestados no están seguros de cómo usar la tecnología y al mismo tiempo garantizar la protección de los datos. Esto destaca la necesidad de que los líderes de la industria se conviertan en defensores de primera línea de la seguridad de los datos y adopten la innovación de manera responsable.
Impactos de la IA generativa
El aumento del contenido generado por IA ha provocado un incremento en los volúmenes de datos y ha colocado las consideraciones éticas en el punto de mira. Problemas como la desinformación, la amplificación de sesgos y las violaciones de la privacidad se están volviendo inherentes a la tecnología y el 58 por ciento de los empleados siente que sería conveniente contar con lineamientos de uso ético para la IA.
La IA generativa también presenta desafíos en torno al consentimiento. Los aspectos matizados del uso de datos, el uso secundario o posterior de datos y las actividades complejas de procesamiento de datos exigen un enfoque riguroso de gobernanza de datos para garantizar el cumplimiento.
La función de los reglamentos
A pesar de que la IA presenta nuevos desafíos, los principios fundamentales de la protección de datos, incluida la responsabilidad, la transparencia, la minimización de datos, la seguridad y las consideraciones éticas, se mantienen.
Las leyes de privacidad, incluido el Reglamento General de Protección de Datos (GDPR) en la UE y la Ley de Privacidad del Consumidor de California en California, EE. UU., son fundamentales para abordar las inquietudes éticas y requieren que los sistemas de IA estén en consonancia con las leyes existentes sobre cómo se manejan los datos personales. La armonización internacional de las leyes de protección de datos y los nuevos reglamentos sobre inteligencia artificial se está convirtiendo en una responsabilidad compartida. Los esfuerzos de colaboración pueden simplificar el panorama de cumplimiento para las organizaciones que operan a nivel global, al garantizar una protección constante para los clientes internacionales. (Lea los últimos proyectos de ley de divulgación climática de California (SB 253 y SB261) para obtener más información sobre los reglamentos globales).
Mitigación de riesgos
Navegar por las aguas desconocidas de la IA generativa requiere que las organizaciones adopten enfoques proactivos y estratégicos para gestionar el riesgo:
- Comience por comprender el alcance de las aplicaciones de IA generativa dentro de sus operaciones. Realice evaluaciones de impacto de protección de datos(DPIA) exhaustivas e identifique y mitigue los riesgos potenciales antes de implementar cualquier solución técnica innovadora.
- Establezca un marco sólido para obtener el consentimiento informado, al abordar los matices que presenta la IA generativa.
- Comunique claramente a los clientes y las partes interesadas cómo se utilizarán sus datos.
- Proporcione mecanismos para que los usuarios puedan decidir fácilmente si participar o no en usos específicos de datos, especialmente para aplicaciones habilitadas para IA.
- Priorice la minimización de datos y la limitación de propósitos, al garantizar que el contenido generado por IA esté en consonancia con estos principios.
- Invierta en capacitación de empleados para mejorar la conciencia sobre los riesgos asociados con la IA generativa y fomentar una cultura de responsabilidad.
- Implemente medidas de seguridad para protegerse contra brechas de seguridad en datos, acceso no autorizado y amenazas cibernéticas, al garantizar que los sistemas de IA generativa cumplan con los más altos estándares de seguridad de datos.
- Por último, manténgase informado y adáptese continuamente. Mantenerse al día de los últimos avances en tecnología de IA generativa y reglamentos de protección de datos es fundamental.
Adoptar la innovación al respetar la ética es un objetivo primordial para utilizar con éxito la IA generativa. Lograr el equilibrio adecuado entre innovación, ética, cumplimiento y transparencia puede forjar un futuro en el que la IA se implemente de una manera que respete los derechos de las personas y fomente prácticas de datos responsables.
Lea Cómo evitar el caos digital (Avoiding digital chaos): Parte 2: Las amenazas y las oportunidades de las nuevas tecnologías (The threats and opportunities of new technology) de Conor Hogan para aprender más sobre las tecnologías emergentes; lea también Transformación de los procesos de cumplimiento normativo (Transforming regulatory compliance processes) del experto ambiental de BSI, JD Gibbs. Para obtener más información sobre otros temas relacionados con la confianza digital, la privacidad, la seguridad de la información y el medioambiente, la salud y la seguridad que deberían encabezar la lista de prioridades de su organización, visite el Rincón de los expertos de BSI.
