Una de estas áreas es la de los datos utilizados para entrenar los large language models. Cuando los sistemas de IA se entrenan con datos históricos, corren el riesgo de reproducir y amplificar los sesgos humanos existentes. Un ejemplo de ello es cuando Amazon utilizó la IA en su proceso de contratación y esta aprendió a discriminar sistemáticamente a las mujeres porque los datos de referencia con los que se entrenó mostraban que los hombres tenían más probabilidades de ser contratados. Casos como estos no son ejemplos de fallos algorítmicos o técnicos, sino que el problema radica en los seres humanos y en las decisiones que tomaron durante el desarrollo de la IA.

Las decisiones que rigen el funcionamiento de un sistema de IA están intrínsecamente cargadas de valores. El modelo de datos, las opciones de muestreo y la métrica de rendimiento (criterios de optimización) que el sistema utiliza para evaluar sus propias decisiones no son elecciones puramente técnicas o científicas, sino decisiones "políticas". Estos elementos influyen en el resultado y, aunque parecen técnicos, son ajenos a los propios algoritmos (Cordero, 2022).

Uno de los retos para los desarrolladores de IA es dotar a los sistemas de un marco moral o una jerarquía de valores que puedan utilizar como referencia a la hora de responder a preguntas con implicaciones éticas. En el caso de OpenAI, Sam Altman no ha podido explicar de forma transparente qué tipo de marco moral utiliza el algoritmo ni quién es el responsable de desarrollarlo. Es esencial que esta información sea transparente para garantizar la confianza de los usuarios de los modelos. OpenAI tiene una "Model Spec" que contiene un conjunto de reglas para sus herramientas de IA, sin embargo, en el mismo documento afirman que no está actualizado y que el documento disponible actualmente no refleja el estado de los modelos actuales. 

La primera recomendación es que la ética digital desarrolle códigos análogos al Código de Núremberg o la Declaración de Helsinki. Estos códigos son necesarios para establecer puntos de referencia para las buenas prácticas. Para que un código de ética digital tenga autoridad moral en todo el sector, debe ser el resultado de la deliberación de un organismo legítimo, independiente y neutral centrado en el interés público, y no únicamente en los intereses de las empresas privadas. La implementación exitosa de dichos códigos apunta a la necesidad de profesionalizar los trabajos tecnológicos, como los de los informáticos e ingenieros, exigiéndoles altos estándares éticos cuyo incumplimiento podría dar lugar a la suspensión o expulsión.

A continuación, recomienda que todas las empresas tecnológicas creen un comité de ética, similar a los que suelen existir en los hospitales. Estos comités deben desempeñar tres funciones clave: la formación del personal y la comunidad; la elaboración y revisión de políticas; y el asesoramiento ético caso por caso. Es fundamental que estos comités tengan la facultad de bloquear proyectos claramente contrarios a la ética y que sean relativamente independientes de la empresa que supervisan.

Por último, los proyectos digitales éticos deben respetar la autonomía individual, es decir, la capacidad de actuar de acuerdo con los propios motivos y elegir los propios valores. Este principio representa un alejamiento del paternalismo, al reconocer que las decisiones tecnológicas están cargadas de valores, al igual que las decisiones médicas. La tecnología debe ayudar a los usuarios a alcanzar sus objetivos, en lugar de emplear tecnologías persuasivas que pongan en peligro su atención y su voluntad.