En el peor de los casos, el futuro podría contener cantidades astronómicas de sufrimiento (los denominados riesgos de sufrimiento astronómico futuro o riesgos-s para abreviar). Anteriormente, argumenté que la reducción de los riesgos-s es una prioridad moral plausible para diferentes sistemas de valores, particularmente para aquellos centrados en el sufrimiento.
En este escrito, me gustaría desarrollar una tipología de los diferentes riesgos-s que podrían surgir. Agruparé los escenarios posibles en tres categorías: riesgos-s incidentales, riesgos-s causados por agentes y riesgos-s naturales.
(Aviso: cada vez que menciono ejemplos de posibles riesgos-s, no estoy afirmando que estos escenarios sean considerablemente plausibles, ni que los riesgos-s resultantes sean, necesariamente, muy severos. Además, dependiendo de la teoría normativa que aceptemos, un riesgo-s puede darse en un mundo que sea, con todo, bueno).
Contenidos
1 Riesgos-s incidentales.
2 Riesgos-s causados por agentes.
3 Riesgos-s naturales.
4 Otras dimensiones.
5 Investigación adicional.
Riesgos-s incidentales
Los riesgos-s incidentales surgen cuando la forma más eficiente de lograr un determinado objetivo crea mucho sufrimiento en el proceso. La agente o agentes causantes de estos riesgos-s o bien son indiferentes hacia el sufrimiento creado o bien, en teoría, preferirían una alternativa libre de sufrimiento pero no están dispuestos a asumir los costes necesarios de la misma en la práctica.
Podemos hacer una subdivisión de los riesgos-s incidentales basándonos en la motivación subyacente a estos:
Productividad económica: el sufrimiento podría ser un medio necesario para lograr un alto rendimiento económico. El sufrimiento de los animales en granjas industriales es un buen ejemplo: sencillamente, la forma más eficiente de satisfacer la demanda de carne con un coste reducido implica generar mucho sufrimiento. En el presente, esto no es un riesgo-s ya que no tiene un alcance astronómico, pero es posible que la tecnología futura permita recrear estructuras similares a una escala mucho mayor. Por ejemplo, el hecho de que en la historia evolutiva de ciertas especies esté presente un mecanismo como el dolor sugiere que un modelo de aprendizaje podría ser más eficiente si usa señales de recompensa negativas (i.e. señales que utilicen el sufrimiento como medio de corrección), y podríamos considerar que inteligencias artificiales suficientemente avanzadas y complejas que utilicen este método de aprendizaje serían capaces de sufrir.
Obtención de información: los experimentos en personas u otras criaturas sintientes podrían ser útiles para fines científicos (como la experimentación animal) y, al mismo tiempo, causar diversos daños en ellas. Nuevamente, la tecnología futura podría permitir realizar tales prácticas a una escala mucho mayor, ya que podría ser posible realizar una inmensa cantidad de simulaciones de mentes artificiales (o ems) capaces de sufrir.
Entretenimiento: muchas personas disfrutan de formas de entretenimiento violentas. Hay innumerables ejemplos históricos (peleas de gladiadores, ejecuciones públicas y tortura, caza, etc.). Si bien hoy en día este entretenimiento es a menudo ficticio (por ejemplo, en videojuegos o películas), todavía existen algunos casos en el mundo real (por ejemplo, videos de tortura y ejecución, peleas ilegales de animales, caza, etc.). Es concebible que en el futuro se utilicen simulaciones complejas con fines recreativos, lo que podría causar enorme sufrimiento si estas simulaciones utilizaran seres sintientes artificiales.
Riesgos-s causados por agentes
Los riesgos-s causados por agentes involucran a agentes que de manera activa e intencional quieren infligir daño.
Existen ciertos motivos por los cuales las agentes podrían querer hacer esto:
Sadismo: una minoría de agentes futuras podría, como algunas personas, obtener placer infligiendo dolor a otras. Esto, posiblemente, sería infrecuente y, probablemente, tales tendencias podrían mantenerse bajo control. Sin embargo, es concebible que los avances en nuestras capacidades tecnológicas multipliquen el daño que, potencialmente, puedan causar los actos sádicos.
Odio emocional: ciertas agentes pueden tener fuertes sentimientos de odio hacia ciertos grupos externos. Por ejemplo, muchas personas a menudo desprecian a aquellas que pertenecen a una religión, grupo étnico o ideología política que consideran equivocada. En casos extremos, esto podría convertirse en un deseo de dañar a esos grupos externos tanto como sea posible (por ejemplo, mediante guerras o mediante terrorismo). Una justicia penal excesiva podría ser otro ejemplo.
Amenazas estratégicas: en un ambiente de crecientes conflictos, una agente podría valerse de amenazas estratégicas para conseguir que la otra parte ceda, lo que podría causar mucho daño si, de hecho, se materializaran tales amenazas.
Riesgos-s naturales
Los riesgos-s naturales son casos de sufrimiento (astronómico) que ocurren de forma espontánea, es decir, sin ninguna participación (incidental o deliberada) por parte de agentes.
Los siguientes son ejemplos de riesgos-s naturales:
El sufrimiento de los animales salvajes podría tener lugar en muchos planetas a lo largo de todo el cosmos, no solo en la tierra. Dicho esto, nuestros mejores modelos del universo sugieren que la vida darwiniana es muy infrecuente (cf. paradoja de Fermi, hipótesis de la tierra infrecuente), por lo que este escenario no es particularmente probable. (Aquellas que propagasen el sufrimiento de los animales salvajes entrarían dentro de la categoría de riesgo-s incidental).
Es concebible, aunque altamente especulativo, que en los procesos físicos de bajo nivel pueda existir sintiencia. En general, es posible que ciertos avances en el conocimiento o en la reflexión moral nos condujesen a pensar que la sintiencia de “bajo nivel” está extendida por el universo, en cuyo caso, sería más plausible concebir esta hipótesis como un riesgo-s natural.
Otras dimensiones
Esta tipología distingue los riesgos-s en relación a las motivaciones que los causan, pero también podemos distinguir los riesgos-s en otros términos:
Riesgos-s conocidos y desconocidos: Un riesgo-s “conocido” es aquel que se da en un escenario que ya podemos concebir en este momento. Esto no significa que dicho riesgo vaya a ser con seguridad o alta probabilidad un riesgo-s serio. En cualquier caso, solo podemos imaginar una gama limitada de escenarios y podrían surgir riesgos-s que no hemos pensado o que, tal vez, ni siquiera podríamos comprender. Es posible que ciertos mecanismos imprevistos conduzcan a grandes cantidades de sufrimiento inesperado (riesgos-s incidentales desconocidos), que las agentes futuras tengan razones imprevistas para causar daño deliberadamente (riesgos-s desconocidos causados por agentes), o que nuevas ideas revelen que, aunque parezca más atractivo creer lo contrario, nuestro universo contiene, de hecho, cantidades astronómicas de sufrimiento (riesgos-s naturales desconocidos).
Riesgos-s por acción y riesgos-s por omisión: “Por acción” significa que el riesgo-s es causado por nuestra civilización. “Por omisión” significa que nuestra civilización no aprovecha la oportunidad de prevenir cierto riesgo-s. En la mayoría de los casos, los riesgos-s naturales son riesgos-s por omisión. Por otro lado, los riesgos-s incidentales y los riesgos-s causados por agentes son, en general, riesgos-s por acción.
Distinción en relación al tipo de seres sintientes que se ven afectados: los riesgos-s pueden involucrar sufrimiento humano, sufrimiento animal o incluso sufrimiento de mentes artificiales.
Investigación adicional
Tomando como base esta tipología, recomiendo que los trabajos futuros se planteen las siguientes preguntas:
¿Qué tipos de riesgos-s son más importantes en relación a la cantidad de sufrimiento esperado que podrían generar?
¿Qué tipos de riesgos-s son particularmente solventables, cuáles son ignorados?
¿Cuáles son los factores de riesgo más significativos que hacen que los diferentes tipos de riesgos-s sean más probables o más graves si ocurren?
¿Cuáles son las intervenciones más efectivas para cada tipo de riesgos-s? ¿Existen intervenciones que consideren varios tipos diferentes de riesgos-s al mismo tiempo?
One comment