Ich habe leider keinen Zugriff auf ein AIX-System und kann nur nach Hinweisen im Web suchen. Sorry. Falls sich nicht noch jemand mit konkreten Erfahrungen in dieser Angelegenheit findet, solltest du ein Posting in einem AIX-Forum in Erwägung ziehen. Die im PAM-Kontext zu modifizierenden Konfigurationsdateien sollten eigentlich in der dir bekannten IBM-Literatur genannt werden.
Hast du dir mal das Kapitel
4.3.5 Configuring LDAP automounter im IBM RedBook
Integrating AIX into Heterogeneous LDAP Environments angesehen?