Curso

Problema da semanaValor esperado com decisão

O dado que custa para relançar

Enunciado

Médio

Você lança um dado de dez faces, numeradas de 1 a 10, e pode ficar com o número que saiu, recebendo esse valor em reais. Se não gostar do resultado, pode pagar R$ 1 e lançar de novo, quantas vezes quiser. O jogo acaba quando você aceita um resultado, e você leva o valor aceito menos o que pagou pelos lançamentos extras.

Qual estratégia maximiza o seu ganho esperado, e quanto vale o jogo jogado dessa forma?

Dica

Depois de cada novo lançamento você está exatamente no mesmo jogo do começo, só que com um real a menos. Chame de V o valor do jogo. Um resultado merece ser aceito quando vale mais do que você espera levar recomeçando, que é V menos o custo de lançar de novo.

Solução completa

Por que basta olhar para limiares

O dado não tem memória e o custo de cada novo lançamento é sempre o mesmo, então a situação depois de lançar de novo é idêntica à do início. A decisão só pode depender do número que está na mesa. E se vale a pena aceitar um número, vale a pena aceitar qualquer número maior. Por isso as estratégias que importam têm a forma de aceitar a partir de um certo \( k \).

O caminho braçal, testar cada limiar

Com o limiar \( k \), cada lançamento é aceito com probabilidade \( p_k = (11-k)/10 \). O número de lançamentos até o primeiro aceito é geométrico, com média \( 1/p_k \), e você paga um real por lançamento depois do primeiro. O valor aceito é uniforme entre \( k \) e 10, com média \( (k+10)/2 \).

$$ G(k) = \frac{k+10}{2} - \left(\frac{1}{p_k} - 1\right) = \frac{k+10}{2} - \frac{k-1}{11-k} $$
Aceitar a partir deGanho esperado, fraçãoGanho esperado, R$
1\( 11/2 \)5,50
2\( 53/9 \)5,89
3\( 25/4 \)6,25
4\( 46/7 \)6,57
5\( 41/6 \)6,83
6\( 7 \)7,00
7\( 7 \)7,00
8\( 20/3 \)6,67
9\( 11/2 \)5,50
10\( 1 \)1,00

O máximo é 7, alcançado por dois limiares, aceitar a partir de 6 e aceitar a partir de 7. Os dois empatam porque o 6 é exatamente o ponto em que aceitar e relançar valem o mesmo, como o atalho a seguir mostra.

O atalho, a equação do ponto de indiferença

Chame de \( V \) o valor do jogo jogado da melhor forma. Diante de um resultado \( x \), você leva \( x \) se aceitar e, em média, \( V-1 \) se pagar e recomeçar. Então

$$ V = \mathbb{E}\big[\max(X,\; V-1)\big] $$

Escreva \( t = V - 1 \), o valor de recomeçar já descontado o custo. Subtraindo \( t \) dos dois lados,

$$ 1 = \mathbb{E}\big[\max(X - t,\; 0)\big] = \frac{1}{10}\sum_{x > t} (x - t) $$

A leitura é direta. No ponto ótimo, o custo de lançar de novo é igual ao ganho esperado de um lançamento acima do nível \( t \). O lado direito diminui quando \( t \) aumenta, então só existe uma solução, e ela sai de cabeça. Com \( t = 6 \), a soma é \( (1+2+3+4)/10 = 1 \). Logo \( t = 6 \) e \( V = 7 \).

A regra é aceitar todo resultado acima de 6 e relançar abaixo de 6. Com o 6 tanto faz, porque aceitar dá 6 e recomeçar também dá, em média, \( 7 - 1 = 6 \). Quem aceita a partir de 7 lança em média 2,5 vezes por jogo, e quem aceita a partir de 6 lança em média 2 vezes, com o mesmo valor esperado.

De onde vem a estrutura

Comparar o que se leva parando agora com o que se espera levar continuando é o raciocínio do exercício antecipado de uma opção americana, e a equação de \( V \) é uma equação de Bellman. Aqui o problema se repete igual depois de cada novo lançamento, e por isso a resposta é um único número de corte. Se o número de lançamentos fosse limitado, o corte mudaria a cada etapa, e a conta seria feita de trás para a frente, a partir do último lançamento.

Resposta

  • Aceite qualquer resultado acima de 6 e lance de novo abaixo de 6. Com o 6, aceitar e relançar dão o mesmo valor esperado.
  • Jogado assim, o jogo vale R$ 7,00.

O que foi conferido e como

O ganho esperado de cada um dos dez limiares foi calculado com frações exatas e comparado com 100 mil partidas simuladas por limiar, 400 mil nos limiares 6 e 7, com semente fixa. Todas as estimativas ficaram dentro de 4,5 erros padrão, e as duas colunas da tabela, a das frações e a dos decimais, são comparadas com essas frações. A mesma bateria confere com frações que \( V = 7 \) satisfaz \( V = \mathbb{E}[\max(X, V-1)] \), que a iteração dessa equação a partir de zero, que cobre também estratégias que não são de limiar, converge para 7, que o lado direito da equação de \( t \) cai estritamente numa grade de mil pontos, e o número médio de lançamentos das duas estratégias ótimas, exato e simulado.

A mesma comparação entre parar e continuar decide quando vale exercer uma opção americana antes do vencimento. A calculadora de Black-Scholes discute essa diferença ao comparar a put americana com a europeia.