Ο Σάρπης έγραψε τη δική του ιστορία στο μπάσκετ και ειδικότερα στη Θεσσαλονίκη.
Αγωνίστηκε για πολλά χρόνια στον Δημόκριτο έως την Α2 κατηγορία.
Υπήρξε σπουδαίος σκόρερ και εξαιρετικός αθλητής.
Μεταγράφηκε στον Ηρακλή με τον οποίο αγωνίστηκε στην Α1.

Στην κάτω φωτογραφία, η ομάδα του Δημόκριτου το 1990/91.
Αριστερά πάνω είναι ο προπονητής, Γιώργος Τσακίρης και πρώτος παίκτης, όρθιος, ο Γιάννης Σάρπης.
Από αριστερά προς τα δεξιά διακρίνονται ακόμα οι Τσαλμπούρης, Χρηστίδης, Τσαχτάνης, Καρατζουλίδης, Χριστοδουλίδης και ο γενικός αρχηγός, Νίκος Χαραλαμπάκης.
Κάτω, από αριστερά, Αστεριάδης, Κατσίβελης, Γεωργιάδης, Καραδήμος.

Τη θλίψη και τα συλλυπητήριά τους για την απώλεια του Γιάννη Σάρπη εξέφρασαν η ΕΚΑΣΘ, ο Δημόκριτος και ο Ηρακλής.
Η συλλυπητήρια ανακοίνωση της ΕΚΑΣΘ:
"Το μπάσκετ έχασε απρόσμενα μια εμβληματική φυσιογνωμία, τον Γιάννη Σάρπη.
Σε ηλικία 58 ετών, ένα αστέρι του αθλήματος ειδικά στις μέρες που φόρεσε τη φανέλα του ιστορικού Δημόκριτου, έφυγε από κοντά μας.
Το Δ.Σ. της Ένωσης τον αποχαιρετά και συλλυπείται συγγενείς και φίλους."
Η ανάρτηση του Δημόκριτου:
"Εκφράζουμε την οδύνη και την θλίψη μας για τον απρόσμενο χαμό του πρώην αθλητή και φίλου μας Γιάννη Σάρπη. Καλο ταξίδι Γιάννη, συλλυπητήρια στους οικείους του".
Η ανάρτηση του Ηρακλή:
“Η ΚΑΕ Ηρακλής εκφράζει τη βαθύτατη θλίψη της για τον αιφνίδιο θάνατο του Γιάννη Σάρπη, που έφυγε σήμερα από τη ζωή. Εκφράζουμε τα ειλικρινή μας συλλυπητήρια στην οικογένεια και τους οικείους του. Ας είναι ελαφρύ το χώμα που θα τον σκεπάσει…”