En el segundo segmento del reciente episodio de Generación Digital WKAQ 580, Nancy Medina entrevistó al licenciado Jean Vidal, experto en propiedad intelectual y privacidad de los datos.
La discusión se centró en los efectos de la inteligencia artificial (IA) en la privacidad y la ética en el manejo de datos dentro del contexto educativo y organizacional. Aquí, se detallan los puntos más importantes de la entrevista.
Privacidad y ética en el uso de la IA
Importancia de la privacidad de los datos
Jean Vidal comenzó explicando que las herramientas de IA, como ChatGPT y otros modelos de lenguaje, aprenden de los datos que se les proporcionan. Un riesgo inmediato es cómo estos datos se utilizan para entrenar bases de datos y generar respuestas para otros usuarios. Esto es especialmente crítico en contextos educativos donde se manejan datos sensibles de estudiantes.
Documentos importantes
Vidal mencionó tres documentos cruciales que a menudo se pasan por alto: términos y condiciones, políticas de privacidad, y acuerdos de servicio. Estos documentos delinean cómo se utilizarán y protegerán los datos. Es vital que las instituciones educativas comprendan y comuniquen claramente estas políticas a sus empleados y stakeholders.
Gobernanza de los datos
Necesidad de una estrategia transparente
Para implementar IA de manera transparente, las instituciones deben tener una estrategia clara de gobernanza de datos. Esto incluye designar a una persona o equipo responsable de entender y comunicar cómo se utilizarán los datos. Vidal resaltó que esta estrategia debe ser clara para todos los empleados para evitar violaciones inadvertidas de leyes como FERPA (Ley de Derechos Educativos y Privacidad de la Familia en EE. UU.).
Creación de nuevas oportunidades
Contrario a la creencia de que la IA desplaza empleos, Vidal argumentó que la IA crea nuevas oportunidades. Por ejemplo, se necesitarán expertos en finanzas y datos para manejar y analizar la información. Las instituciones deben estar preparadas para formar y contratar a personas en estos nuevos roles.
Responsabilidad Legal y Ética
Legislación y cumplimiento
Puerto Rico cuenta con leyes como la Ley 40 de Ciberseguridad, que impone requisitos estrictos sobre la protección y manejo de datos en el sector público. Vidal mencionó que la legislación en desarrollo, como el proyecto de ley P de la C 15-48, podría establecer un nuevo marco regulatorio de privacidad de datos, similar al GDPR europeo. Estas leyes dictan cómo se deben gestionar y proteger los datos.
Transparencia y ética
La transparencia es fundamental para mantener la confianza dentro de una organización. Vidal subrayó que las instituciones deben ser claras sobre cómo se recopilan, utilizan y protegen los datos. Un modelo ético debe garantizar que los empleados y stakeholders sepan exactamente cómo se manejan sus datos y qué beneficios, si alguno, se derivan de ellos.
Propiedad Intelectual
Derechos de autor y creaciones de IA
Vidal explicó que las creaciones generadas completamente por IA, como las producidas por herramientas como ChatGPT, no están protegidas por derechos de autor. Esto es relevante para las instituciones educativas que desean proteger el contenido creado con IA. Sin embargo, si hay una contribución humana significativa, esa obra podría ser protegida.
Pasos para implementar una estrategia de datos
- Auditoría de datos: Identificar qué datos se manejan, cómo se almacenan y dónde se encuentran.
- Comprender la tecnología: Antes de implementar nuevas tecnologías, es vital entender sus capacidades y limitaciones.
- Definir necesidades: Diferenciar entre lo que es esencial y lo que es deseable en términos de tecnología y manejo de datos.
- Establecer políticas claras: Crear políticas y procedimientos claros sobre cómo se manejarán y protegerán los datos.
- Formación y capacitación: Educar a todos los miembros de la organización sobre las políticas de datos y la ética en el uso de la IA.
La entrevista con Jean Vidal destacó la importancia de la privacidad y la ética en el manejo de datos al integrar IA en el sistema educativo. Las instituciones deben desarrollar estrategias claras, formar equipos especializados y garantizar la transparencia para aprovechar al máximo las oportunidades que ofrece la IA mientras protegen los datos y derechos de los individuos.