2つとも同じような意味ですが、少しニュアンスが違います。
「恥ずかしい」は、恥という文字が示す通り、恥を感じるというネガティブな意味があります。
例えば、「日本人なのに漢字が読めなくて恥ずかしい」と言った場合、本来読めるべき漢字が読めない=恥である。という感情が成り立ちます。
それに対し「照れくさい」にはあまりネガティブな意味はありません。
例えば「先生にほめられて照れくさい」と言った場合、先生にほめられた=うれしはずかしい=照れくさいという感情が成り立ちます。
欧米人であれば単純に喜ぶところを、日本人は、「照れくさい」と感じる気質があります。あまりおおっぴらに喜ぶことを好まないからです。
「照れくさい」の代わりに「恥ずかしい」を同じ意味で使うことはできます(先生にほめられて恥ずかしい)が、逆はできない(漢字が読めなくて照れくさい)ので気をつけてください。