1) ~하고 말았다. ~해 버렸다. 모두 부정적인 의미가 있습니다. 결과적으로 희망과 반대되는 일이 발생한 경우 사용합니다. "~해 버렸다"가 약간 더 강도가 센 것처럼 들립니다. ex) 시험에 떨어지고 말았다. 시험에 탈락해 버렸다. 죽고 말았다. 죽어 버렸다. 실패해 버렸다. 실패하고 말았다. 2) 두 표현은 거의 같다고 생각이 됩니다만 미세한 차이가 있을 수도 있습니다. "~하고 말았다"는 결과적인 상황을 위해 사용하기도 합니다. "~해 버렸다"도 결과적인 상황이지만 웬지 부정적인 의미가 있습니다. ex) 결국 해내고야 말았다. (노력하여 성취함), 결국 해 버렸다. (의지와 반대되는 결과) 3) 잘 모르겠습니다.

1) It depends on the context. 문맥에 따라 다릅니다. 긍정/부정 모든 경우에 사용할 수 있으니까요. 2) 각각의 표현으로 명령문을 만들어 보면 그 차이를 알 수 있습니다. When they are used in imperatives, the aux verb 말다 cannot be used in the same meaning. It may be considered as the original verb 말다, not an aux verb 말다. 먹어라, Eat it. 먹어 버려라. Eat it up. 먹고 말아라. Eat it and leave/quit 먹어 버리고 말아라. Eat it up and leave/quit (In these case, the meaning is different from the aboves) 3) For examples, 石川五ェ門: また、つまらぬ物を斬ってしまった. 또, 하찮은 것을 베었다. just telling a fact 또, 하찮은 것을 베고 말았다. conclusion and regret(残念) 또, 하찮은 것을 베어 버렸다. completion of action, regret(残念) or 또, 하찮은 것을 베어 버리고 말았다.(o) much more emphsized expression 또, 하찮은 것을 베고 말아 버렸다(x) it doesn't make sense. 베어 버리고 말았다. (o) (main - aux verb - aux verb) It is because the relationship of aspect of two aux verbs are different from each other. 베어 버리고 싶었다. (o) (main - aux verb - aux adjective) 베고 말아 버렸다 (x) 베고 말고 싶었다. (x) 4) 일본어로 생각하면 둘 다 똑같은 표현이 돼버리는 부분이라서 헷갈리고 있습니다.  (이번 경우는 "돼버리다"로 괜찮을까요?)  - 네, 괜찮습니다. 되다 되고 말다 되어 버리다/돼 버리다 아래의 표현들 모두 똑같은 표현이 되어서/돼서 헷갈리고 있습니다. (결과적으로) 똑같은 표현이 돼 버려서 헷갈리고 있습니다. ( 내 의도와는 달리) 똑같은 표현이 되고 말아서 헷갈리고 있습니다. 똑같은 표현이 돼 버리고 말아서 헷갈리고 있습니다.

제 생각엔 "-말았다"와 "-버렸다"의 차이는 거의 없는 것으로 보이는데요. "말았다"와 "버렸다"라는 동사 자체가 이들 표현에서는 더 이상 손을 쓰거나 노력하지 않고 "그것으로 끝을 봤다" 정도로 별 의미 차이가 없다고 생각됩니다. 3) 저도 してしまった/しちゃった와 "-해 버리다" 는 거의 일대일로 대응되는 표현이라 생각했습니다만 しちゃった가 "해 버리다"보다 더 널리 쓰인다는 점은 맞는 것 같습니다. 그러니까 しちゃった로 썼지만 한국어에선 "버리다"를 붙이지 않아도 되는 경우가 좀 있을 것 같은데 쉽게 사례가 떠오르질 않네요. "...둘 다 똑같은 표현이 돼 버리는..."은 아주 적절한 표현이라 생각합니다. "...표현이 되는..."으로 쓸 수도 있지만 "돼 버리는" 편이 의미전달이 더 생생한 것 같습니다.

1) "하고 말다"는 "아/어/여 버리다"와 비교했을 때 안타까운 마음이 더 강하게 드러납니다. 2) 다음과 같은 차이가 있습니다. 1. '-고 말다'는 목표를 이루기 위한 주어의 다짐을 표현할 수 있습니다. 반드시 성공하고 말겠어.(O) 반드시 성공해 버리겠어.(X) 2. '-어 버리다'는 주어가 의지를 갖고서 저지른 일을 표현할 수 있습니다. 친구가 안 오길래 그냥 가 버렸어요.(O) 친구가 안 오길래 그냥 가고 말았어요.(X) 3) 아쉬움이나 속시원함이 느껴지는 경우에는 "아/어/여 버리다"를 사용하는 것이 좋고 단순한 결과를 나타낼 때는 과거형으로 사용하는 것이 좋습니다.