問題の与条件として、
立体の「上面図・側面図」(※)
などが与えられていれば、
「正八角柱から全く同じ三角錐を8個取り除く方法」
で体積を求めるのが簡単でしょう。
(※テキストなどでは「平面図・立面図」と表記されていることが多いですが、建築用語との関連から違和感があります。「数学における立体」に関しては、機会図面などの図法における「上面図・側面図(or正面図)」を用いるべきでしょう。中学生は「技術・家庭」で習っているはずです。)
しかし本問では、そこまでヒントを与えていないので、上記の方法に気付くのは難しいかもしれません。
とはいえ、正攻法でも十分簡単に求められることを確認しておきましょう。
まずこの十面体を、
図のようにABCD-EFGHとし、
辺EH,FGの中点をI,J、
ACとBDの交点をO
とします。
この十面体の縦断面ACJIについてみていきます。
この等脚台形ACJIにおいて、
OからIJへ下ろした垂線の足をP、
AからOIへ下ろした垂線の足をQ
とします。
すると、
OP=2,OI=√5,AQ=2√10/5
となりますね。
これで「正攻法」、つまり、
「立体を分割して体積を求める方法」
の準備が完了しました。
「四角錐A-BDHE(C-BDGF)」2つと、
「断頭三角柱BEF-DHG」
の体積を合計すれば十面体の体積となりますね。
よって、
(2√2+2)×√5×1/2×2√10/5×1/3×2
と
2×2×1/2×(2+2+2√2)/3
を合計して
∴(16+8√2)/3