Tak jsem zjistil, že ta chyba vzniká při tom přemostění eth1+wlan0. Pokud zruším bridge (br0) na rozhraní eth1+wlan0 a NATuji pouze mezi eth0 a wlan0, tak mi šifrování WPA2-PSK/AES funguje. Takže hostapd nebere v potaz nastavení bridge=br0 nebo se díky přemostění ty data k němu ztrácí. Novější hostapd mi zkompilovat nejde (možná by to vyřešil), takže jsem v začarovaném kruhu.
Pokud by někdo věděl, jak to vyřešit, tak budu vděčný.