Difundir valores beneficiosos podría ser un tipo de intervención prometedora para las altruistas efectivas. Esta difusión podría tener una influencia duradera en nuestra sociedad (o en sociedades posteriores), lo cual tendría un impacto indirecto en el futuro lejano. Alternativamente, defender ciertas teorías morales es una forma de construir el movimiento (del altruismo efectivo), ya que podría inspirar a otras personas a trabajar en temas cruciales para las altruistas efectivas.
Esta publicación analiza preguntas estratégicas sobre la cuestión, tales como:
¿Cómo es esta defensa en la práctica? ¿Qué valores debemos difundir y cómo? ¿En qué medida resulta efectivo defender cierto tipo de teoría moral en comparación con otro tipo intervenciones como, por ejemplo, influir directamente en las nuevas tecnologías? ¿Cuáles son los argumentos más importantes a favor y en contra de centrarse en esta cuestión?
Contenidos
1 ¿Qué significa defender cierto tipo de valores?
1.1 ¿Qué valores podríamos difundir?
2 Argumentos a favor de defender ciertas perspectivas morales
2.1 Conseguir destacar la importancia del sufrimiento puede ser muy complicado
2.2 Solidez
2.3 La difusión de valores es disyuntiva
2.4 Difundir valores puede tener un impacto relevante
3 Objeciones
3.1 La difusión de valores no tiene un impacto duradero
3.2 Visión determinista de la historia.
3.3 Influir en el desarrollo tecnológico es más efectivo
3.4 La difusión de valores está atestada
3.5 La difusión de valores produce una “suma-cero”
4. Conclusión
¿Qué significa defender cierto tipo de valores?
Lo primero que se suele asociar a esta cuestión es “salir y correr la voz”. Sin embargo, podemos defender nuestros valores de muchas formas, a menudo indirectas. Por ejemplo, el trabajo de Eliezer Yudkowsky en LessWrong y su trabajo en relación a la seguridad en IA no es una defensa de una teoría moral específica en sentido estricto. Sin embargo, le permitió extender sus valores morales en la comunidad, en cierta medida.
Del mismo modo, cuando hablo de la defensa de una teoría moral no me refiero a una mera repetición constante sobre qué valores deberían defenderse. Al contrario, me refiero a la posibilidad de demostrar la relevancia y prioridad de esos valores. En la práctica, esto requiere trabajar a un nivel objetivo y con considerable calidad para poder demostrar todo lo relacionado con los valores que defendemos.
Utilizaré los términos “difusión de valores” y “defensa de una teoría moral” indistintamente. Frente a la “construcción del movimiento” o la “construcción de la comunidad”, la difusión de valores hace referencia a actividades que influyen en los valores de las personas. Además, no hace referencia directa a las actividades que simplemente proporcionan servicios a la comunidad. En cualquier caso, ambas pueden y deben ir de la mano.
¿Qué valores podríamos difundir?
La efectividad de la difusión de valores depende de los valores que intentemos difundir. Creo que estos son candidatos plausibles para la difusión de valores:
Expandir nuestro círculo moral. Esto es, promover la preocupación por todos los seres sintientes. Teniendo en cuenta que hoy en día ciertos individuos tienen un círculo moral considerablemente reducido, podríamos defender el antiespecismo, es decir, tomarnos en serio el sufrimiento animal. Alternativamente, podríamos difundir ideas como la importancia del sufrimiento de los animales en la naturaleza y la sintiencia digital.
Promover el consecuencialismo. A diferencia de otros valores, en este caso hay una inclinación explícitamente filosófica. Podemos considerar esto una ventaja si pensamos que la claridad filosófica y la reflexión son esenciales para tener impacto. Sin embargo, esto también puede ser problemático, ya que de esta manera podríamos tener impacto en menos individuos.
Promover perspectivas éticas específicas. Especialmente en ciertos campos controvertidos como el de la ética de poblaciones. Por ejemplo, si uno defiende una ética centrada en el sufrimiento (como yo mismo), sería interesante y aconsejable escribir y difundir más textos sobre ella. Sería, asimismo, deseable refutar las objeciones más comunes contra esta posición o escribir sobre las intuiciones a favor de la misma.
Difundir el altruismo genérico (efectivo). Si no se combina con otros valores, esta difusión sería neutral con respecto a otras dimensiones relevantes como la ética de poblaciones o la expansión de nuestro círculo moral.
Difundir la necesidad de reducir los riesgos-s. Esta difusión no solo implica defender ciertos valores. También requiere buscar argumentos empíricos que muestren como los riesgos-s son más probables (y, por lo tanto, relevantes) de lo que, a primera vista, podría parecer.
Todavía no sabemos cuál de estos valores repercute más en la reducción del sufrimiento futuro, por tanto, es necesario investigar más sobre este punto. No solo importa cuánto repercutiría nuestro impacto en escenarios futuros “previsibles”. También es importante tener en cuenta escenarios desconocidos o menos previsibles, así como la solidez con la que nuestro impacto mejoraría el futuro en lugar de empeorarlo.
Un análisis ideal de las ventajas y desventajas de la difusión de valores tendría que considerar todos estos valores separadamente. Aun así, en el resto de esta publicación hablaré sobre lo prometedora que es la defensa moral en general, haciendo referencia a una combinación de los valores anteriores. Considero adecuado este enfoque por varios motivos:
En la práctica tenderíamos a defender todos estos valores en conjunto, aunque cabría la posibilidad de enfatizar ciertos puntos específicos.
. Estos valores se superponen. Por ejemplo, el consecuencialismo parece estar relacionado con defender la ampliación de nuestro círculo moral (al menos dentro del altruismo efectivo), aunque no haya una implicación directa entre ambas posiciones. Por lo tanto, podemos esperar que se creen fuertes corrientes de influencia, es decir, si alguien aprende sobre el altruismo efectivo debido a nuestro trabajo, es más probable que investigue cuestiones acerca del consecuencialismo y, del mismo modo, si alguien investiga sobre consecuencialismo, es muy probable que se interese por el altruismo efectivo.
. Dada esta correlación, creo que es adecuado expresarse en términos de “expandir la compasión”, a pesar de que esta expresión sea vaga.
Argumentos a favor de la difusión de valores
Conseguir destacar la importancia del sufrimiento puede ser muy complicado
Generalmente, la difusión de valores es entendida como el intento de cambiar los valores de la sociedad en general. Esto es muy difícil, por lo que creo que no hay que (necesariamente) trabajar hacia la consecución de este objetivo. Convencer a una pequeña minoría puede producir un impacto significativo y beneficioso.
Esto se debe a que incluso logros mínimos permitirían a esta minoría reducir el sufrimiento (hasta cierto punto) de forma efectiva. Por ejemplo, en el caso de la agricultura industrial, aturdir a los animales antes de matarlos, así como la existencia de leyes básicas de bienestar, evitan parte del sufrimiento que, de otro modo, ocurriría en este proceso. Estas medidas son implementadas a pesar de que el nivel general de preocupación por el bienestar animal es considerablemente bajo. En cualquier caso, la agricultura industrial causa cantidades inmensas de sufrimiento por lo que estas medidas son insuficientes. En general, es plausible considerar que una creciente preocupación por el sufrimiento tenga ciertos beneficios decrecientes.
Del mismo modo, podríamos tener esperanzas de que incluso con una preocupación relativamente desdeñable por el sufrimiento se lograría (dados muchos factores), mitigar el daño “incidental” causado por fuerzas egoístas o económicas en el futuro. Si la tecnología avanzada del futuro facilita respetar ciertos valores (como por ejemplo, evitar el sufrimiento animal, facilitar el bienestar de los animales salvajes, etc.), esto es mucho más probable. Un ejemplo sería la carne cultivada a partir de células animales frente a la cría industrial.
Estos dos puntos muestran el importante papel de la consistencia moral. La mayoría de las personas son compasivas porque se preocupan por ciertos animales concretos como perros y gatos, pero no hacen nada para ayudar a los animales de granja. Esto es aún peor en el caso de los animales salvajes (link orixinal caído) y la sintiencia digital. Por lo tanto, si la preocupación por el sufrimiento es desdeñable, solo podría ser útil si es consistente, es decir, si incluyera a todos los seres sintientes.
Solidez
A primera vista, influir en la mayor cantidad de individuos con nuestro sistema de valores (o con alguna de sus partes) es muy positivo porque estos individuos buscarán hacer intervenciones consideradas, previsiblemente, positivas por el mismo (a no ser que estos individuos sean muy irracionales). Tener un sistema sólido también ayudaría a reducir el sufrimiento esperado en caso de incerteza.
Dicho esto, la difusión de valores podría no ser tan sólida como parece debido a los riesgos-s relativos a agentes. Un modo en el que futuros desastrosos podrían desencadenarse es la denominada “escalada de un conflicto de alto riesgo”, esto es, un conflicto donde una o ambas partes comienzan a hacer amenazas tales como “si haces / no haces X, haré [inserta algo horrible aquí]”. Dados valores más altruistas, hay más probabilidad de que tales amenazas (si son llevadas a cabo) generen cantidades considerables de sufrimiento. (Creo que una posible solución para este problema serían las metas alternativas).
La difusión de valores es disyuntiva
Muchas veces nuestro impacto depende de predicciones inciertas y especulativas sobre cómo será el futuro. Por ejemplo, para centrarnos en reducir los riesgos en IA requerimos que en el futuro la IA sea una tecnología crucial. De hecho, necesitaríamos escenarios detallados para trabajar eficazmente en la cuestión.
Sin embargo, hay muchas razones para tener en cuenta que nuestros análisis podrían estar errados, ya que es complejo predecir el futuro (distante), además de la falta de evidencia y datos sólidos relativos a esta cuestión. Esto reduce tanto la magnitud esperada de nuestro impacto como la solidez de cualquier intervención basada en tales predicciones.1
Por el contrario, una cadena causal del tipo “la difusión de valores conduce a más y mejores valores en el futuro, lo cual (esperamos) reduciría el sufrimiento” es bastante disyuntiva en el sentido de que no requiere predicciones específicas sobre el futuro. Sin embargo, requiere suponer implícitamente lo siguiente:
1.Abogar por un sistema de valores aumenta el número de personas con estos valores. Esto no es evidente, especialmente a largo plazo. En caso de que nuestra promoción suscite una oposición tajante, que logre defender con éxito los valores opuestos a nuestro sistema, está claro que esta idea es insostenible. Sin embargo, confío en que la suposición sea válida a la hora de difundir valores compasivos (ya que probablemente esto no será controvertido).
2. Mejores valores conllevan mejores acciones. Esto me parece bastante plausible. Sin embargo, podríamos aducir como ejemplo en contra el hecho de que muchas defensoras de los derechos de los animales apoyan la preservación de la vida silvestre.
3. Los valores humanos tienen una influencia considerable sobre el futuro. También considero esto probable. Sin embargo es concebible que, por ejemplo, el Darwinismo o IAs no controladas hagan que la difusión de valores sea inútil.
Debemos tener en cuenta que el impacto de la difusión de valores no se basa, necesariamente, en la esperanza de que abogar por mejores valores ahora se traducirá, directamente, en mejores valores en el futuro lejano. Lo único que debemos suponer es que la existencia de más altruistas generará, de algún modo, algo valioso. Por ejemplo, estas altruistas podrían ayudar a configurar IAs avanzadas, en cuyo caso la difusión de valores es relevante incluso si a largo plazo retornara a un equilibro.
Difundir valores puede tener un impacto relevante
Individuos como Peter Singer o Brian Tomasik, cuyo trabajo ha inspirado a mucha gente, son la evidencia más clara. En general, las diferencias entre las comunidades (por ejemplo, LessWrong, la comunidad de altruismo efectivo de habla inglesa y la de habla alemana) suelen remontarse a ciertas figuras clave, lo que sugiere que la difusión de valores puede multiplicar su impacto.
Esto también sugiere que la efectividad dependerá, en gran parte, de lo comunes que sean los valores difundidos y de lo efectivas que seamos a la hora de difundirlos. Peter Singer y Brian Tomasik tuvieron un gran impacto porque fueron pioneros en sus respectivas causas (liberación animal, el sufrimiento de la fauna silvestre). Por otro lado, podemos preferir defender otros valores a los que se ha prestado menor atención, tales como la relevancia de la sintiencia digital, la importancia de los riesgos-s o las perspectivas éticas centradas en el sufrimiento, en lugar de difundir valores más usuales como la preocupación por los animales.
Aunque la difusión de valores podría tener un alto impacto, también es probable que un enfoque centrado en dar forma a las nuevas tecnologías sea incluso más impactante. Sin embargo, es más difícil y arriesgado llevar a cabo intervenciones de este tipo.
Objeciones
La difusión de valores no tiene un impacto duradero.
Podemos cuestionar el impacto a largo plazo de la difusión de valores en virtud de lo siguiente:
. Los valores humanos configuran un sistema dinámico y complejo en constante evolución en el que es difícil influir de manera segura modificando algún parámetro.
. Esta evolución puede compararse a un ecosistema que vuelve a equilibrarse con el tiempo, haciendo que los intentos de influir en él sean inútiles. Prueba de ello es que la propagación de valores provoca que fuerzas opuestas se equilibren al generar un conflicto de valores. Por ejemplo, la lucha contra la comunidad LGBT de la iglesia Baptista de Westboro podría causar un aumento en el número de activistas LGBT o podría provocar una reacción pública.
. Muchos valores defendidos en el pasado se han vuelto irrelevantes a día de hoy.
Estoy de acuerdo en que estos puntos son razonables y ponen en duda la idea de que podemos influir en los valores del futuro lejano mediante la difusión de nuestros valores. Aun así, me gustaría ofrecer algunas réplicas:
. Como he argumentado previamente, mejorar los valores en el futuro lejano no es el único objetivo al difundir valores. Esto, de hecho, es cuestionable. La difusión de valores puede influir en altruistas efectivas para que puedan trabajar y dar forma a eventos fundamentales en las próximas décadas y siglos.
. Concuerdo con la idea de que la evolución de los sistemas de valores humanos es un caos. Sin embargo, esto no implica necesariamente que el impacto (esperado) de estos valores disminuya con el tiempo. Incluso podría crecer, si nuevas activistas difunden nuestros mismos valores. En general, creo que no es fácil dirimir si (dentro de nuestras expectativas) la diferencia que podría generar la difusión de valores es mayor o menor.
. Una diferencia crucial entre la difusión de valores aquí defendida y el ejemplo de la Iglesia de Westboro es que nuestras ideas son menos controvertidas, por lo que es menos probable que provoquen una fuerte oposición. No hay movimientos anti-EA (es decir, no hay movimientos en contra del altruismo efectivo), no hay movimientos contra el antiespecismo, etc. Por supuesto, muchas personas no están de acuerdo con estas ideas. Sin embargo, no ven estos movimientos como un ataque (considerable) a sus valores. No es lo mismo no estar de acuerdo con una idea que luchar por defender la posición opuesta.
. La forma en la que defendemos nuestros valores es crucial. La difusión de valores solo funciona si se efectúa de manera inteligente. De lo contrario puede ser contraproducente. Sin embargo, esto no es un argumento general contra la difusión de valores. Lo que sugiere es que los grupos que tengan ventaja a la hora de difundir valores en comparación con otros grupos menos aventajados deberían aprovechar esa ventaja.
. Podemos señalar ciertos ejemplos históricos de cambios de valores a gran escala, como el surgimiento de la democracia, el feminismo o la lucha contra el racismo. Esto sucedió en parte debido a los esfuerzos que hicieron estos grupos a la hora de promover y difundir ciertos valores, lo que evidencia que algunos sistemas de valores no vuelven a un equilibrio estable.
Visión determinista de la historia
Una visión determinista de la historia consideraría que los desarrollos tecnológicos son la fuerza impulsora detrás de los cambios en los valores de las personas, no la difusión de valores. ¿Terminó la esclavitud gracias al movimiento abolicionista o debido a que la industrialización hizo que las esclavas estuvieran obsoletas? Si consideramos que circunstancias cambiantes tales como la aparición de nuevas tecnologías determinan los valores sociales, entonces podemos concluir que la difusión de valores puede ser una pérdida de tiempo.
Sin embargo, podría ser al revés, es decir, que los valores que difundamos influyan en el desarrollo de la tecnología. Por ejemplo, la preocupación por los animales acelera el desarrollo de carnes limpias. En el caso de la historia humana, el nacionalismo, por ejemplo, pudo haber acelerado la invención de nuevas formas de guerra. La interacción entre valores y tecnología es compleja; lo más probable es que se dé en ambos sentidos. (Más investigación sobre esto sería de ayuda).
Del mismo modo, ciertas teorías como la teoría de los gérmenes sugieren que las diferencias entre valores se basan en factores arbitrarios como la frecuencia de enfermedades, no en la difusión o la reflexión moral. En general, esto apunta a que la mayoría de las personas no son agentes perfectas y no están tan interesadas en la reflexión filosófica, lo que podría reducir considerablemente el impacto de la difusión de valores.
Aun así, incluso siendo esto es cierto, la promoción de ciertos valores incentiva a las personas a tomar mejores rumbos. Además, como se argumentó anteriormente, no necesitamos convencer a todas las personas: puede ser suficiente con que haya una minoría que se preocupe por reducir el sufrimiento.
Influir en el desarrollo tecnológico es más efectivo
Los esfuerzos dirigidos a influir en la ruta que toma el desarrollo de nuevas tecnologías pueden estar mejor enfocados que la difusión de valores. Además, no se necesitan muchas personas para trabajar en los aspectos técnicos de nuevas tecnologías como la IA, mientras que uno necesita a muchas personas para lograr que la difusión de valores sea efectiva. De hecho, la difusión de valores puede requerir más recursos de los que a primera vista parece, debido a ciertas cuestiones complejas sobre la atribución de impacto, especialmente si la difusión de valores se lleva a cabo durante muchas generaciones.
Tentativamente, concuerdo con la idea de que influir directamente en la tecnología es una mejor opción si somos capaces de identificar intervenciones específicas que sean claramente positivas y manejables. Trabajar acerca de los riesgos en inteligencia artificial avanzada, especialmente “inteligencia artificial a prueba de errores”, puede o no cumplir este papel. Sin embargo, tratar de dar forma a la tecnología también es arriesgado, ya que es probable que nuestros esfuerzos se desperdicien, por ejemplo, porque nos equivocamos a la hora de juzgar qué tecnologías son más relevantes. Además, la difusión de valores también es un modo de dar forma a la tecnología, al hacer que más personas trabajen en este campo llegado el momento.
Considerando todo esto, no favorezco especialmente a ninguna de las dos posiciones en particular.
La difusión de valores está atestada
Max Daniel argumenta que “la difusión de valores, en general, está atestada, muchos grupos religiosos, políticos y filosóficos están tratando de difundir valores y competir por atención”.
Concuerdo con que muchos grupos intentan difundir sus valores. Sin embargo, la cuestión central es ¿cuántos grupos difunden valores que compitan directamente con los nuestros? Dicho de otra manera, ¿cuántos grupos tratan de atraer a la misma clase de gente? Suponiendo que las personas tengan intuiciones innatas a favor o en contra de ciertos puntos de vista morales particulares y que esto determine la adopción de cierto sistema de valores tras reflexionar sobre la cuestión, la difusión de otros sistemas de valores no hace que nuestra propia difusión sea menos efectiva.
Por supuesto, esta suposición está idealizada, por lo que el argumento no es del todo adecuado. En particular, los valores de las personas están a menudo determinados por los valores con los que entran en contacto por primera vez, o los valores que tienen ciertas personas respetadas. En otras palabras, los valores defendidos por alguien tras reflexionar sobre estas cuestiones dependen de ciertos factores.
Aun así, considero que el mayor obstáculo a la hora de difundir valores no son otros grupos. Más bien, la dificultad reside en que pocas personas son altruistas, reflexionan profundamente sobre cuestiones filosóficas relacionadas con el tema, comparten mis intuiciones centradas en el sufrimiento en ética de poblaciones, etc. Esto podría reducir el valor de la difusión de valores o conducir a rendimientos marginales decrecientes.
Cada vez más personas trabajan en diferentes formas de difusión tales como difundir el altruismo o expandir nuestro círculo moral. Sin embargo, los números siguen siendo bastante reducidos en términos generales. En 80.000 horas también consideran que la difusión está en un segundo plano debido a que “generalmente no hay ningún incentivo económico en difundir ideas socialmente importantes”.
La difusión de valores produce una “suma-cero”.
En su ensayo “Contra la difusión de valores“, Paul Christiano argumenta que tratar de difundir valores es una tarea que produce una “suma -cero”, por lo que debemos abstenernos de esta práctica. La idea central de este ensayo consiste en considerar que si difundimos nuestros valores, otros grupos difundirán valores opuestos, lo que generará un cambio de valores neto igual a cero, es decir, ningún cambio relevante. Este argumento es interesante. Aun así, no estoy completamente de acuerdo con su conclusión por lo siguiente:
. Muchas formas de difusión de valores como el altruismo efectivo o la expansión del círculo moral de la humanidad no perjudican (en principio) a nadie. Muchas personas pueden no estar de acuerdo con estas ideas pero probablemente sean neutrales en relación a que existan más personas que las defiendan. Esto es particularmente cierto si la alternativa en comparación es el egoísmo.
. Los valores, especialmente los altruistas, casi nunca son exactamente opuestos entre sí. Por ejemplo, en general nunca desearíamos que se minimizara el bienestar.
. La difusión de valores contribuye a la reflexión filosófica, lo cual es, en principio, positivo para todos los sistemas de valores. Podemos dividir los efectos de la difusión en dos partes. Una parte de “reflexión moral” que brinda argumentos para ambas partes y lleva a las personas hacia la posición que respaldarían tras reflexionar profundamente y otra parte que trataría solo de promover los valores que una misma defiende. Solo la última parte es problemática por motivos de cooperación.
. Incluso la promoción de los valores de una misma sería una “suma positiva” a menos que los sistemas de valores en juego fueran completamente opuestos. Además, creo que es positivo que haya una “oferta” diversa de sistemas de valores plausibles y permitir que cada una elija cuál de ellos respaldará. En este sentido, incluso la promoción de los valores de una misma puede contribuir a la reflexión moral.
. Si tenemos que elegir entre una “suma cero” o una acción cooperativa, no siempre se debe elegir, por defecto, la acción cooperativa. Puede ser racional abandonar la causa. Dicho esto, este dilema de prisionero es iterado, por lo que la cooperación es una estrategia aceptable. En general, hay muchas razones para ser cooperativas con otros sistemas de valores.
. El “método de sentido común” sostiene, por ejemplo en política, que al manejar diferencias entre valores cada una sigue sus propias prioridades, incluida la difusión de los valores de una misma. Posteriormente, los grupos competidores llegan a un compromiso explícito (por ejemplo, en un parlamento). Esto no es lo óptimo (teóricamente hablando), pero es bastante sólido y parece funcionar hasta cierto punto. (Por supuesto, tengamos en cuenta que la política tiene otros problemas).
. El argumento es similar a la idea de que los valores controvertidos generan oposición, por lo que debemos evitar considerar esta objeción dos veces.
Conclusión
Difundir valores tiene, posiblemente, un alto impacto; especialmente si consideramos que aunque el nivel de preocupación por el sufrimiento sea reducido, será suficiente para cosechar éxitos. Creo que muchas de las objeciones dadas son razonables pero no decisivas, por lo que sigo manteniendo cierto optimismo en torno a la cuestión.
Dicho esto, la efectividad de la difusión de valores, en comparación con otras intervenciones diferentes tales como dar forma a las tecnologías emergentes, es muy incierta. Creo que influir en el desarrollo tecnológico podría ser más impactante en el mejor escenario posible. Sin embargo, es más difícil encontrar un punto sólido mediante el que podamos llevar a cabo esta transformación. Un enfoque prometedor sería combinar ambos puntos influyendo en los valores de aquellas personas que dan forma a la tecnología.
Agradecimientos
Quedo en deuda con Max Daniel, Lukas Gloor, Brian Tomasik y David Althaus por sus imprescindibles comentarios y debates.
Footnotes
- Podríamos argumentar que nuestros análisis podrían estar errados en el otro sentido, es decir, que somos excesivamente pesimistas con la precisión de nuestras predicciones y la magnitud de nuestro impacto, por lo que esto supondría una compensación y, por lo tanto, no cambiaría el valor esperado de nuestro impacto. En cualquier caso, creo que hay buenas razones para ser pesimistas, considerando que hay una asimetría entre estas dos posiciones. Si elegimos cierto tipo de intervención basándonos en un análisis, sería toda una coincidencia que nuestra intervención fuera tan (o más) impactante estando el análisis errado que no estándolo.