Las compañías de Inteligencia Artificial (IA) están reclutando graduados y académicos de filosofía. Esto con el objetivo de que ayuden a entrenar a los modelos y generar reglas morales para el funcionamiento regulado de estos últimos. Una de las herramientas que están utilizando los filósofos para el entrenamiento de la IA es el método socrático. Este se basa en preguntas secuenciales y en asumirse como ignorante en torno al tema de interés. Mediante el método anterior se han podido producir modelos de IA más comprometidos con la verdad y con menor sobreconfianza en sus propias respuestas.

Este entrenamiento filosófico puede llegar a determinar las perspectivas que difunden los modelos de IA. Por ejemplo, un entrenamiento con las ideas de John Locke puede generar un modelo que piense que la propiedad privada es la base de la libertad. Esto ha sido aprovechado por compañías como IBM, que venden sistemas de IA que se adecúan a la filosofía específica de cada empresa.

La filosofía también permite crear modelos más seguros y autorregulados. Esto mediante el apoyo hacia el constitucionalismo de IA. El concepto anterior se refiere a construir a la IA alrededor de ciertas reglas basadas en el pensamiento filosófico que le sirvan de guía moral y legal. Prevalecen dos enfoques en torno a lo anterior. Por un lado está la deontología, basada en la filosofía de Kant, la cual busca prohibir que los modelos mientan, sean coercitivos o que utilicen a las personas como un medio y no como un fin. Por otro lado está el consecuencialismo, el cual compara los costos y beneficios en torno a una cierta decisión o acción por parte de la IA.

La deontología ha sido utilizada principalmente en chatbots como Claude, ayudando a que estos sean más honestos en sus respuestas. También este enfoque ha sido utilizado en modelos de apoyo emocional, las cuales logran ubicar mejor cuando una persona puede hacerse daño a sí misma o a otras personas. Mientras tanto, el consecuencialismo ha sido utilizado para vehículos automáticos con el objetivo de que sus choques sean lo menos mortales posibles. Además, los sistemas de armas automatizados también utilizan el consecuencialismo para medir el costo civil que puede tener un ataque.

Ambos enfoques plantean problemas, por ejemplo, qué tan absolutas deben ser las reglas deontológicas o qué factores se deben considerar para medir los costos y beneficios del consecuencialismo. También hay otras cuestiones filosóficas que podrían ser consideradas en el desarrollo de la IA, como el bienestar ambiental. Hay una preocupación creciente en torno a la delegación de estas decisiones a una tecnología por encima del ser humano. Lo anterior debido a que esto puede generar en las personas, una falta de habilidades para la decisión ética y moral.