Foro de elhacker.net

Foros Generales => Dudas Generales => Mensaje iniciado por: B€T€B€ en 10 Marzo 2021, 23:39 pm



Título: Puntuación de Brier
Publicado por: B€T€B€ en 10 Marzo 2021, 23:39 pm


Buenas Noches.

¿Por casualidad hay algún matemático en en Foro?


Título: Re: Puntuación de Brier
Publicado por: Machacador en 11 Marzo 2021, 16:19 pm

Buenas Noches.

¿Por casualidad hay algún matemático en en Foro?


Matemático lo que es decir matemático, no creo que haya... pero gente que sabe algo de matemáticas si hay, ademas de que aquí contamos con el profesor Google que siempre está disponible para prestarnos su ayuda si sabemos hacer la pregunta adecuadamente...

"El Brier score es apropiado para los binarios y los resultados categóricos que pueden ser estructurados como verdadero o falso"

Fuente: https://www.i-ciencias.com/pregunta/140542/como-calcular-la-puntuacion-de-brier-para-mas-de-dos-clases

Citar

La puntuación de Brier es una función de puntuación estrictamente adecuada o una regla de puntuación estrictamente adecuada que mide la precisión de las predicciones probabilísticas . Para las predicciones unidimensionales, es estrictamente equivalente al error cuadrático medio aplicado a las probabilidades predichas.

https://es.qaz.wiki/wiki/Brier_score#:~:text=La%20puntuaci%C3%B3n%20de%20Brier%20es,aplicado%20a%20las%20probabilidades%20predichas.


 :rolleyes: :o :rolleyes:


Título: Re: Puntuación de Brier
Publicado por: Danielㅤ en 11 Marzo 2021, 16:23 pm
Hola, me parece que kub0x sabe mucho de matemáticas.


Saludos


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 11 Marzo 2021, 21:43 pm
Desarrollo el tema.

La Puntuación de Brier es una Regla de Puntuación con la que se puede evaluar lo precisas que son las previsiones hechas en relación a los resultados (finales) reales.

Se calcula restando de la probabilidad el resultado real, y elevándolo al cuadrado.
Pongamos que hay un 70% (0,7 de 1) de que haya niebla y al final la hay.

1-> hay niebla 0-> no hay niebla

Hay niebla.

(0,7 -1)^2= 0,09 Brier


Si hay un 70% de que haya niebla, tiene que haber un 30% de que no haya niebla.
Calculo la puntuación de Brier del 30%, no habiendo niebla.

(0,3-0)^2=0,09  Algo estoy haciendo mal o no me entero.



Título: Re: Puntuación de Brier
Publicado por: kub0x en 11 Marzo 2021, 23:49 pm
Hola B€T€B€,

la puntuación de Brier (o Brier Score para los guiris) como bien dijeron por ahí es lo mismo que el mean squared error en el caso unidimensional, que es el que manejas en tu ejemplo.

Concretamente, en tu caso, Brier aplicado a una condición binaria, es decir, llueve o no llueve. Es el caso más simple en la teoría. Pero existe la posibilidad de enlazar probabilidades (predicción) y de resultados "reales" (forecast), de hecho la formulación original de Brier va por ahí.

Por lo tanto,

Llueve: (0.7 -1)^2 = 0.09
No llueve : (0.7 - 0)^2 = 0.49 (Aquí estaba tu error jeje) Es decir, 70% de que llueva pero no llueve, por eso tomamos el 0.7 por la predicción del 70%.

Es decir, podríamos hacer (0.3 - 1)^2 = (0.7 - 0)^2 ya que 30% de que NO llueva y llueve es (0.3-1)^2 en forma de Brier y es lo mismo que el calculo de "No llueve" anterior. Magia borrás XD

Naturalmente, cuanto menor sea el resultado, más ajustada es nuestra predicción sobre el fenómeno (o conjunto de datos) observado.

Espero que te haya servido. Un saludo.


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 13 Marzo 2021, 00:10 am

Te entiendo, pero sigo sin poder resolver mi problema.
Te explico.

(https://i.imgur.com/jCrWwoj.jpg)

Probabilidad de que llueva/no llueva
10/90
25/75
etc

El color amarillo de las celdas indica lo al final ocurrió.
¿Cómo rellenarías tú las dos columnas (respectivas puntuaciones de Brier) de la derecha en función de lo acontecido?



Título: Re: Puntuación de Brier
Publicado por: Tachikomaia en 13 Marzo 2021, 06:01 am
https://foro.rinconmatematico.com/index.php?board=21.0


Título: Re: Puntuación de Brier
Publicado por: kub0x en 20 Marzo 2021, 13:06 pm
Esto es el contenido de un mensaje privado que he enviado a B€T€B€, pero lo dejo por aquí por si a alguien más le sirve la explicación:

Citar
Hola B€T€B€,

esta semana no he logeado para nada, espero que hayas podido resolver tu cuestión. Pero vamos, en cada cuadrícula que tienes en blanco, has de hacer lo siguiente:

Si la cuadrícula es SI, cogerás la celda de la probabilidad de que llueva (la izquierda de la primera tabla), y le restaras el 1, haras el cuadrado y lo tienes.
Si la celda es NO, en vez de restar 1 restaras 0 y lo tienes.

La mecánica es la misma que te explique en el post. De hecho, sólo necesitas una columna de probabilidad, la del SI o la del NO, ya que con cualquiera de las dos calculas la puntuacion de Brier, como bien te expliqué.

Saludos.


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 20 Marzo 2021, 21:08 pm

Y el resultado es este.


(https://i.imgur.com/3BbduEO.jpg)


Título: Re: Puntuación de Brier
Publicado por: kub0x en 21 Marzo 2021, 15:26 pm
Y el resultado es este.


(https://i.imgur.com/3BbduEO.jpg)

La columna de la derecha es correcta, la de la izquierda no. Brier score para SI y para NO es simétrico cuando Probablidad_SI=Probabilidad_NO. Entonces, es imposible que la celda del SI y la del NO den mismo valor, a no ser que ambas probabilidades sean iguales.

Saludos.


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 21 Marzo 2021, 20:13 pm

 SI       NO

10%    90%


* No llovió.
--------------------------------------------------------------------------

¿Tú cómo lo calcularías?









Título: Re: Puntuación de Brier
Publicado por: kub0x en 21 Marzo 2021, 20:48 pm
Tomando la probabilidad del si del 10%:

Brier score para SI -> (0.1 - 1)^2 = 0.81
Brier score para NO-> (0.1 - 0)^2 = 0.01

Otra forma de calcular, tomando la probabilidad del NO del 90%:

Brier score para SI -> (0.9 - 0)^2 = 0.81
Brier score para NO-> (0.9 - 1)^2 = 0.01

Para no liarte, siempre toma la probabilidad del SI como referencia, así restas el 1 para Brier score del SI y 0 para el Brier del NO.

Saludos.


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 21 Marzo 2021, 20:59 pm
¿Y eso cómo lo trasladas a la tabla?
*Si es que es factible hacerlo.
Que es lo que intento.

(https://i.imgur.com/jCrWwoj.jpeg)





Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 23 Marzo 2021, 22:15 pm
Después de darlo muchas vueltas creo que lo que planteo (tal y como lo he hecho) no es factible.
Lo último que deseo es dar la sensación de que soy un vago y quiero que me lo den hecho.

Creo que la única forma de hacerlo es calcular la puntuación de Brier sobre una de las dos columnas (como dice kub0x) y el resultado obtenido será la puntuación de Brier con la que rellenar las "dos" columnas de la derecha.
Esa es la solución o es que soy muy tonto.

De cualquier otra forma la puntuación de Brier para cada columna sería diferente de la otra, y después de mucho pensarlo no me cuadra.
Al fin y al cabo la puntuación de Brier sirve para saber lo (bien o mal) calibrada que esta una predicción.
Con lo cual (independientemente del resultado final) si está bien calibrada lo será en ambas columnas, y al revés.
--------------------------------------------------------------------------
SI   NO
10   90

*No llueve.

Cogemos la columna del No.
(0,90-1)2= 0,01 P. Brier

Cogemos la columna del Si.
(0,10-0)2= 0,01 P. Brier

En este caso la P. Brier es muy próxima a 0 e indica que el pronóstico era bueno.
Como digo es acertado; el conjunto del pronostico.
Porque lo que no puede ser es que sea acertado para el SI y erróneo para el NO.
Quedaría así.


(https://i.imgur.com/szg1pkK.png)


Título: Re: Puntuación de Brier
Publicado por: kub0x en 2 Abril 2021, 14:37 pm
Hola B€T€B€, ha pasado tiempo espero que hayas resuelto tu duda.

Las dos columnas son iguales porque estás introduciendo el campo amarillo que denota "lo ocurrido". Por lo tanto no nos interesa el caso contrario. Supongo que eso es lo que quieres.

Otra cosa es que el campo amarillo no exista, por lo tanto las dos columnas serían desiguales, es decir, la primera restas 1 a la probablidad del SI y luego 0 a la misma probabilidad del SI.

Saludos.


Título: Re: Puntuación de Brier
Publicado por: B€T€B€ en 2 Abril 2021, 19:37 pm
Citar
Las dos columnas son iguales porque estás introduciendo el campo amarillo que denota "lo ocurrido".


Lo que yo decía.

Gracias.