Me temo que no vas a poder usar los métodos habituales, java no usa controles Windows, sino que se dibuja los suyos propios.
Au3Info detecta controles de objetos Windows, creados con su API, así que al mirar la ventana de Java probablemente sólo verás el panel donde se dibuja, pero no los controles de dentro.
Me temo que vas a tener que pulsar por posición, si el botón está siempre en el mismo sitio se puede hacer así. Si la ventana es resizable y el botón se desplaza... mala suerte
