うまくいかなかった VirtualBox 上の openindiana への Guestaddition のイインストールですが、一度 autorun させないでマウントさせてから、su - でルートに入って、pkgadd -d /cdrom/vbox(cdromのマウントされたイメージ名)/VBoxSolarisAdditions.pkg を実行することでとりあえずインストールされているみたいです。
どうにもディスプレイのサイズが変わらないのでインストールされてないと思ったのですが、system -> 設定 -> ハードウェア -> ディスプレイ で起動するウィンドウで、ディスプレイの解像度を指定したら一発で変わりました。
なんてこったい。
無駄に悩んでしまったみたいな。。。