"Пытаться" означает делать сделать что-то с неизвестным результатом или повторять действие после неудачи.
Например: "Летом он попытается сдать экзамены для поступления в институт."
Или: "В прошлом году он не смог сдать экзамены. В этом году он попытается снова."
"Стараться" означает "прилагать усилия", "делать качественно". Обычно используется, когда речь идёт о труднодостижимой цели или чтобы описать отношение человека к данному действию.
Например: "Студент получает плохие оценки, потому что совершенно не старается."
Другой пример: "Студент получает хорошие оценки, потому что старается."
В обоих случаях студент занимается на уроках, но делает это по разному. В первом примере он не прилагает усилий, а во втором прилагает. Заменить в этих примерах "старается" на "пытается" нельзя.
Несмотря на различия, во многих случаях можно использовать оба этих слова, но при этом они могут придавать различную смысловую окраску.
Например: "Сколько не старайся/пытайся, а все равно ничего не выйдет".