Al fin algo interesante xD
Pues ya lleva unos años, pero esto demuestra que es posible:

new WDefaultFontCharset([BoF]).canConvert('x');

aunque parece ser que tienes razón unra, java no te permite hacer un overflow en la mayoria de las ocasiones.. Porque java simplemente no permite alojar mas información en la memoria que la reservada, ni permite colocar un puntero fuera de zona, ni permite nada
Aunque teoricamente si java esta escrito en C, pues alguna de las clases podria tener un overflow (como la esplicada al principio), sin embargo es muy probable que el programa lo detecte, y solo lleguemos a un DoS.

Ahora, al parecer java es suceptible a Integer Overflow, ya que solo permite valores de hasta 2^32.. y talvez podriamos provocar algun heap oveflow.. o en ocasiones muy extremas un BoF.. aun asi, veo poco probable una explotación exitosa.. al menos en situaciones normales.. aunque bueno, eso se decia de el bug de WMF, y ya ven que paso

En fin, habria que analizar las clases nativas de java en busca de un overflow, y si no, pues meterse 100% en el lenguaje, desafortunadamente, yo solo se lo basico de java, por lo que no estoy tan familiarizado con este..

Les dejo un Integer Overflow en las librerias "Sun RPC XDR".. (solo como curiosidad)
http://www.cert.org/advisories/CA-2003-10.html

Para los que quieran ver que es IoF:
http://en.wikipedia.org/wiki/Integer_overflow

Hay que ver bien, pero temo que va a estar complicado.. en fin, Saludos!!
//Les anexo un doc. sobre Integer OverFlow..

si, por su puesto..
habria que ver que es lo que quieres unra, por ejemplo, podrias sacar un BoF en la consola java para internet explorer, o quires hacer un programa con bof en java..

aunque si se encontrara un bof en el plugin de java seria muy peligroso, llegaria demasiado lejos.. pero si lo que quieres es hacer un programa explotable, sera mas dificil :/

enfin..
Saludos!!

No, BoF significa Buffer Overflow, de ese tipo de vulnerabilidad habla todo el thread, la palabra reservada para Begin Of File es BOF..  de todas formas mucha gente lo usa como quiere, pero al margen, por el contexto es imposible confundir su significado.

Saludos