Episodios de Altruismo Eficaz
176 episodios · del más reciente al más antiguo
-
40 opiniones provocadoras
Con motivo de su cuadragésimo cumpleaños, Lewis Bollard ofrece cuarenta opiniones breves sobre la cría intensiva de animales y el movimiento que trabaja para ponerle fin. Sostiene…
-
Excéntricamente eficaz
La disposición del altruismo eficaz a tomarse en serio ideas aparentemente extrañas, cuando está moderada por el sentido común, constituye una parte importante del valor que el…
-
La IA podría derrotarnos a todos juntos
¿Qué gravedad podría alcanzar la desalineación de la IA? Prácticamente la máxima posible.
-
El altruismo eficaz debería invertir en la promoción de la liberación animal y el cambio en la dieta
El altruismo eficaz ha acabado tratando las campañas de bienestar de los animales de granja como la opción estratégicamente seria y ha dejado de lado la liberación animal y la…
-
Un nuevo marco para los modelos de amenaza de la IAG
Richard Ngo sostiene que la distinción convencional entre el uso impropio de la IA y la desalineación carece de utilidad tanto a efectos técnicos como de gobernanza: a medida que…
-
Cómo la IA podría provocar pandemias catastróficas
Panorámica de cómo los avances en IA y biología sintética están reduciendo las barreras técnicas para crear patógenos de nivel pandémico. Aunque los modelos de frontera…
-
Conviértete en una persona que realmente hace cosas
La tercera entrada de una serie de reflexiones breves de Neel Nanda sobre la productividad y la agencia. Nanda argumenta que alcanzar objetivos exige no sólo planificar, sino la…
-
Pérdida gradual de poder: Resumen
Resumen de la tesis del ``desempoderamiento gradual'': incluso sin un evento catastrófico de desalineación, la automatización incremental por IA de la producción económica, la…
-
¿Qué es la alineación de la inteligencia artificial?
Este artículo explica los conceptos clave que surgen en el contexto de la alineación de la IA. Estos términos no son más que intentos de esbozar las ideas subyacentes, y la…
-
La inteligencia artificial está reavivando los temores en torno al bioterrorismo. ¿Cuál es el riesgo real?
A medida que los modelos de lenguaje de vanguardia mejoran su capacidad para responder a consultas químicas y biológicas, la preocupación por el bioterrorismo impulsado con IA ha…
-
Las decisiones difíciles de revertir destruyen el valor de opción
Algunas decisiones estratégicas que puede tomar el movimiento del altruismo eficaz pueden ser difíciles de revertir. Un ejemplo es dotar a la imagen de marca del movimiento de un…
-
Los plazos "largos" para llegar a una IA avanzada se han acortado muchísimo
Las distinciones históricas entre plazos cortos y largos para el desarrollo de una inteligencia artificial de nivel humano se han desvanecido en gran medida, a medida que el…
-
Mis opiniones relativas a la IA
Hace poco tuve una pequeña discusión porque alguien malinterpretó mis opiniones sobre la IA, así que he pensado en recopilarlas todas en un solo sitio para poder remitir a la…
-
En busca de una visión dinámica para una IA sobrehumana y segura
Fomentar la creatividad, la asunción de riesgos y la competencia, sin perder de vista los riesgos
-
El tren a la ciudad de la locura
El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en…
-
Cómo tomar decisiones relativas a la carrera profesional
¿Te sientes atascado a la hora de tomar una decisión relacionada con tu carrera profesional? Nos hemos basado en décadas de investigación en psicología cognitiva para encontrar un…
-
Una carta personal sobre la IA transformadora
Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial…
-
Investigación sobre macroestrategia
Descubre las oportunidades de carrera profesional en el ámbito de la investigación en macroestrategia de IA: las habilidades que necesitas, las principales empresas que contratan…
-
Acciones de promoción para marcar el rumbo de la IA
Desde ejercer presión sobre los responsables de la toma de decisiones hasta movilizar a los movimientos de base, los defensores de la seguridad de la IA impulsan un cambio real.
-
Construir el campo de la seguridad de la IA
La seguridad de la IA necesita algo más que investigadores. Descubre las carreras profesionales en este sector en ámbitos como la comunicación, las operaciones y la estrategia, y…
-
Cómo la IA podría generar los mayores problemas del mundo
¿Podría ser el trabajo en los riesgos asociados a la IA la elección de carrera profesional con mayor impacto en la actualidad? Descubre por qué la IA puede provocar un cambio…
-
La seguridad de la IA puede ser un "asalto de Pascal" incluso si p(catástrofe) es alta
La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En…
-
Los expertos en IA han acertado en muchas ocasiones
El escepticismo inicial sobre los riesgos asociados a la inteligencia artificial (IA) dentro del movimiento del altruismo eficaz solía calificar esas preocupaciones como…
-
Las enormes ventajas de eliminar los cuellos de botella: algunas experiencias personales
La productividad sistémica viene determinada exclusivamente por el componente más lento —o cuello de botella— de un proceso. Las mejoras en la eficiencia de los segmentos que no…
-
Uso impropio catastrófico de la inteligencia artificial
Se prevé que la inteligencia artificial (IA) avanzada acelere los descubrimientos científicos a un ritmo sin precedentes, lo que podría condensar décadas de investigación en unos…
-
Plazos amplios
La predicción de la llegada de la inteligencia artificial transformadora se caracteriza por una profunda incertidumbre, lo que hace que las estimaciones puntuales o los debates…
-
Los mundos en los que resolvemos deliberadamente el problema de la alineación de la IA no se parecen al mundo en el que vivimos
Los esfuerzos actuales por garantizar la seguridad de la IA superinteligente carecen del rigor institucional y la seriedad técnica necesarios para mitigar el riesgo existencial…
-
Cómo los bucles de realimentación impulsados por la IA podrían desatar el caos en muy poco tiempo
¿Qué ocurre cuando la IA pasa de ser una herramienta a convertirse en un trabajador? Analizamos los bucles de realimentación que podrían acelerar radicalmente el cambio…
-
Usar la IA para mejorar la toma de decisiones sociales
El rápido avance hacia la inteligencia artificial general (IAG) requiere una mejora proporcional en la toma de decisiones sociales para hacer frente a situaciones cada vez más…
-
Concentración extrema de poder
La tecnología avanzada de IA puede permitir a sus creadores, o a otras personas que la controlen, intentar y lograr una acumulación de poder social sin precedentes. En…
-
Editar Wikipedia es una intervención importante, tratable y desatendida
Los artículos de Wikipedia son muy leídos y gozan de gran credibilidad; al mismo tiempo, muchos artículos, especialmente en campos especializados, están incompletos…
-
Por qué la IA podría resultar catastrófica: un argumento simple en cuatro pasos
Las principales empresas tecnológicas están desarrollando activamente sistemas de inteligencia artificial diseñados para superar el rendimiento humano en los ámbitos más…
-
Idea: la convención de la explosión de inteligencia
Se necesita un marco de gobernanza inmediato para gestionar los retos y riesgos asociados a la rápida «explosión de inteligencia» tecnológica impulsada por la IA avanzada. Este…
-
Contra el MAXIPOK: el riesgo existencial no lo es todo
El principio Maxipok, que afirma que maximizar la probabilidad de evitar una catástrofe existencial debe ser la prioridad absoluta para mejorar el futuro a largo plazo, se basa en…
-
Tu donación puede cambiar la vida de alguien
Quizás pienses que una organización benéfica es algo que se hace con el dinero suelto que te sobra o apoyando a un amigo que participa en una carrera local. Así es como solíamos…
-
80.000 Horas cree que solo una pequeña proporción de personas debería ganar dinero para donar a largo plazo
Norman Borlaug no ganó millones, pero su investigación salvó millones de vidas. Uno de los errores más comunes que hemos encontrado sobre 80.000 Horas es que nos centramos…
-
Por qué la objeción de la trivialidad no se aplica al altruismo eficaz
El principio fundamental del altruismo eficaz (EA, por sus siglas en inglés), es decir, el compromiso de maximizar el bien a través de la evidencia y la costo-eficacia, debe…
-
No estar de acuerdo en lo que es eficaz no significa estar en desacuerdo con el altruismo eficaz
El altruismo eficaz se define como la adopción de medidas destinadas a beneficiar a los demás de la manera más óptima posible, basándose en evidencia y análisis minuciosos. El…
-
Inteligencia artificial autosuficiente
El autor sostiene que los debates sobre si «ya tenemos IAG» son improductivos y propone en su lugar un hito más claro y consecuencialista: una población de IA totalmente…
-
Tres dudas sobre el veganismo
Una evaluación crítica de la identidad vegana sugiere que sus características definitorias obstaculizan el crecimiento y la eficacia del movimiento de defensa de los animales. La…
-
Si el bienestar de los animales salvajes es un problema irresoluble, entonces todo es irresoluble
El bienestar de los animales salvajes se enfrenta a frecuentes problemas de tratabilidad, lo que equivale a la idea de que los ecosistemas son demasiado complejos como para…
-
Cómo hacer tu plan de carrera profesional
Unirse a una comunidad es una estrategia muy eficaz para avanzar en la carrera profesional y amplificar el impacto positivo de cada uno, superando los beneficios de las redes de…
-
Cómo no perder tu trabajo por culpa de la IA
Aproximadamente la mitad de las personas temen perder su empleo a causa de la IA. Y tienen motivos para estar preocupadas: la IA ya es capaz de realizar tareas de programación en…
-
Una de las formas más poderosas de mejorar tu carrera profesional: unirte a una comunidad
Este resumen ya es breve y conciso. Para acortarlo aún más, podríamos eliminar la comparación con las redes y limitarse a indicar la ventaja clave de la tecnología: «Esta…
-
Gran lista de candidatos a causa
En los últimos años, se han publicado docenas de entradas sobre posibles nuevas áreas de trabajo, causas e intervenciones de EA. La búsqueda de nuevas causas parece una iniciativa…
-
Mis conclusiones sobre IA 2027
La transición a la superinteligencia puede ser un proceso rápido, «solo de software», que podría producirse en un solo año debido al progreso algorítmico compuesto, independiente…
-
El altruismo eficaz en la era de la IAG
El movimiento del altruismo eficaz (EA) se encuentra en una encrucijada, lo que ha dado lugar a una propuesta para avanzar por una «tercera vía». En lugar de considerarse un…
-
Planes A, B, C y D para el riesgo de desalineación
Este artículo describe un marco de cinco planes estratégicos (A-E) para mitigar el riesgo de desalineación de la IA, caracterizados por la disminución de los niveles de voluntad…
-
Por qué creo que desarrollar el altruismo eficaz es importante para hacer que la IA tenga un impacto benéfico
Promover las ideas del altruismo eficaz (EA) y la participación de la comunidad es una estrategia valiosa para orientar el desarrollo de la inteligencia artificial general…
-
Cómo encontrar la carrera profesional adecuada para ti
En general, los enfoques tradicionales de exploración de carreras profesionales, como las pruebas de aptitud y los años sabáticos, no constituyen una orientación eficaz. En lugar…