El atraco de Pascal
En filosofía, el atraco de Pascal es un experimento mental que demuestra un problema en la maximización de la utilidad esperada. Un agente racional debe elegir acciones cuyos resultados, cuando son ponderados por su probabilidad, tienen mayor utilidad. Pero algunos resultados muy improbables pueden tener utilidades muy grandes, y estas pueden crecer más rápido de lo que disminuye la probabilidad. Por lo tanto, el agente debería centrarse más en casos muy improbables con recompensas increíblemente altas; esto conduce primero a elecciones contraintuitivas, y luego a incoherencias a medida que la utilidad de cada elección se vuelve ilimitada.
El nombre se refiere a la apuesta de Pascal, pero a diferencia de la apuesta no requiere recompensas infinitas.[1] Esto evita muchas objeciones al dilema de la apuesta de Pascal que se basan en la naturaleza del infinito.[2]
Planteamiento del problema[editar]
En una descripción,[2] Blaise Pascal es abordado por un asaltante que ha olvidado su arma. Sin embargo, el asaltante propone un trato: el filósofo le entrega su billetera y, a cambio, el asaltante le devolverá el doble de dinero mañana. Pascal se niega, señalando que es poco probable que el acuerdo sea respetado. Luego, el asaltante continúa nombrando recompensas más altas, señalando que incluso si solo hay una posibilidad en 1000 de que sea honorable, tendría sentido que Pascal haga un trato por un retorno de 2000 veces. Pascal responde que la probabilidad de ese alto rendimiento es incluso menor que uno sobre 1000.
El asaltante argumenta que, por cualquier baja probabilidad de poder pagar una gran cantidad de dinero (o utilidad pura), existe una cantidad finita que hace que sea racional apostar y, dada la falibilidad humana y el escepticismo filosófico, una persona racional debe admite que hay al menos alguna posibilidad distinta de cero de que tal acuerdo sea posible. En un ejemplo, el asaltante tiene éxito prometiendo a Pascal 1.000 cuatrillones de días de vida. Convencido por el argumento, Pascal le da al asaltante la billetera.
El término "atraco de Pascal" para referirse a este problema fue acuñado originalmente por Eliezer Yudkowsky en el foro Less Wrong.[3]
Además, en muchos sistemas de decisión que parecen razonables, el "atraco de Pascal" hace que la utilidad esperada de cualquier acción no pueda converger, ya que una cadena ilimitada de escenarios sucesivamente terribles similares al atraco de Pascal tendría que tomarse en cuenta.[4][5]
Consecuencias y remedios[editar]
El filósofo Nick Bostrom argumenta que el atraco de Pascal, como la apuesta de Pascal, sugiere que dar a una inteligencia artificial superinteligente una teoría de decisión errónea podría ser desastroso.[6] El atraco de Pascal también puede ser relevante cuando se consideran eventos de baja probabilidad y alto riesgo, como el riesgo existencial o las intervenciones caritativas con una baja probabilidad de éxito pero con recompensas extremadamente altas. El sentido común parece sugerir que el esfuerzo de gasto en escenarios demasiado improbables es irracional.
Un remedio recomendado podría ser usar solo funciones de utilidad acotadas: las recompensas no pueden ser arbitrariamente grandes.[4][7] Otro enfoque es utilizar el razonamiento bayesiano para juzgar (cualitativamente) la calidad de la evidencia y las estimaciones de probabilidad en lugar de calcular ingenuamente las expectativas.[8] Otros enfoques son penalizar la probabilidad previa de hipótesis que argumentan que estamos en una posición sorprendentemente única para afectar a un gran número de personas que no pueden afectarnos simétricamente, y rechazar la posibilidad de que haya un pago en primer lugar,[9] o abandonar los procedimientos de decisión cuantitativa en presencia de riesgos extremadamente grandes.[5]
Véase también[editar]
Referencias[editar]
- ↑ Olle Häggström (2016). Here Be Dragons. 3.10: Cryonics. ISBN 978-0198723547.
- ↑ a b Bostrom, Nick (2009). «Pascal's mugging». Analysis 69 (3): 443-445. doi:10.1093/analys/anp062.
- ↑ Eliezer Yudkowsky, El atraco de Pascal: Probabilidades minúsculas de grandes utilidades. Less Wrong, 19 de octubre de 2007. http://lesswrong.com/lw/kd/pascals_mugging_tiny_probabilities_of_vast/
- ↑ a b De Blanc, Peter. Convergence of Expected Utilities with Algorithmic Probability Distributions (2007), arΧiv:0712.4318
- ↑ a b Kieran Marray, Enfrentando la incertidumbre en los cálculos éticos de riesgo existencial, presentada en el Consejo de investigación económica y social Serie de talleres sobre ética climática y economía climática: Taller cinco - Riesgo y cultura de la ciencia, mayo de 2016 http://www.nottingham.ac .uk / climáticoethicseconomics / documents / papers-workshop-5 / marray.pdf
- ↑ Bostrom, Nick (2014). «Choosing the Criteria for Choosing». Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. ISBN 978-0199678112. "Decision Theory" section.
- ↑ Cowen, Tyler; High, Jack (1988). «Time, Bounded Utility, and the St. Petersburg Paradox». Theory and Decision 25 (3): 219-223. doi:10.1007/BF00133163.
- ↑ Holden Karnofsky, por qué no podemos tomar las estimaciones del valor esperado literalmente (incluso cuando no tienen prejuicios). Blog de GiveWell 18 de agosto de 2011 http://blog.givewell.org/2011/08/18/why-we-cant-take-expected-value-estimates-literally-even-when-theyre-unbiased/
- ↑ Baumann, Peter (2009). «Counting on numbers». Analysis 69 (3): 446-448. doi:10.1093/analys/anp061.
| Control de autoridades |
|
|---|
Datos: Q17747150