設問2の答えで785634120aとなる理由がわかりません。
リトルエンディアンは理解したのですが、攻撃者の指定したアドレス0x12345678を挿入するなら、8785634120xだと思うのですがよくわかりません。既出でしたら申し訳ありません。どなたかご教授願えれば幸いです。よろしくお願いします。

"0x"はデータ形式が16進数であることを表すものなのでデータではありません。
※16進数で利用可能な文字は"0-9,A-F"となるため"x"は利用できません。

32bit単位のリトルエンディアンとなるため，"78563412" + "0a" → "785634120a" となります。