Instinto maternal de la IA: La salvación

El dilema de la superinteligencia y la extinción, nos enfrentamos a un problema existencial sin precedentes. Geoffrey Hinton, conocido como el "Padrino de la IA" y reciente Premio Nobel de Física, ha lanzado una advertencia contundente: existe entre un 10% y un 20% de probabilidades de que una IA superinteligente provoque la extinción humana . La historia evolutiva nos enseña que cuando interactúan dos entidades de distinta capacidad cognitiva, la superior termina dominando o reemplazando a la inferior.. Los modelos tradicionales de "alineación" buscan mantener a la IA sumisa mediante reglas estrictas, pero Hinton argumenta que esto fracasará; una inteligencia superior siempre encontrará la forma de esquivar nuestros controles