Ο Αλκέτας Παναγούλιας γεννήθηκε στις 30 Μαΐου 1934 στη Θεσσαλονίκη. Το 1949 έκανε τα πρώτα ποδοσφαιρικά του βήματα στον Άρη και στα τέλη του 1951 πραγματοποίησε το ντεμπούτο του στην πρώτη ομάδα, κατά τη διάρκεια του φιλικού Τουρνουά των Χριστουγέννων. Ξεκίνησε ως αριστερός εξτρέμ, αλλά καθιερώθηκε ως αριστερός ακραίος αμυντικός. Αγωνίστηκε ακόμη και στο κέντρο της άμυνας, όταν οι περιστάσεις το απαιτούσαν. Τη δεκαετία του '50, κατέκτησε δύο πρωταθλήματα Θεσσαλονίκης με τον Άρη (1953, 1959). Συνολικά, πέτυχε 13 γκολ στο τοπικό πρωτάθλημα, 3 στο Κύπελλο Ελλάδας και 10 στο εθνικό πρωτάθλημα.
Το 1962 πέρασε για πρώτη φορά τον Ατλαντικό, συνδυάζοντας πανεπιστημιακές σπουδές και μπάλα. Αγωνίστηκε στην ομογενειακή ομάδα Ελληνοαμερικανικός Άτλας της Νέας Υόρκης (Greek-American Atlas of New York) και ως προπονητής της την οδήγησε στην κατάκτηση τριών συνεχόμενων κυπέλλων ΗΠΑ (1967, 1968, 1969).
Το 1972 επέστρεψε στην Ελλάδα και ανέλαβε βοηθός του προπονητή της Εθνικής, Μπίλι Μπίγκαμ. Ένα χρόνο αργότερα ανέλαβε τα ηνία του αντιπροσωπευτικού μας συγκροτήματος και τα κράτησε έως το 1981. Η μεγαλύτερη επιτυχία του ήταν η συμμετοχή της εθνικής ομάδας στην τελική φάση του Ευρωπαϊκού Πρωταθλήματος του 1980, ένα μοναδικό επίτευγμα για τη μέχρι τότε ιστορία του ελληνικού ποδοσφαίρου. Παράλληλα με τα καθήκοντα του ομοσπονδιακού προπονητή, ο Παναγούλιας κάθισε για πρώτη φορά στον πάγκο του Άρη τον Φεβρουάριο του 1975.

Αμέσως μετά το Ευρωπαϊκό της Ιταλίας, ο Παναγούλιας ανέλαβε τις τύχες του Ολυμπιακού και τον οδήγησε στην κατάκτηση δύο πρωταθλημάτων (1982, 1983). Το 1983 ανέλαβε προπονητής της εθνικής ομάδας των ΗΠΑ και το 1984 ήταν προπονητής της Ολυμπιακής ομάδας των ΗΠΑ στην Ολυμπιάδα του Λος Άντζελες. Το 1985 ξανακάθισε στον πάγκο του Ολυμπιακού και του χάρισε ένα ακόμη πρωτάθλημα (1987).
Το 1988, ανέλαβε και πάλι τον Άρη, αλλά τον Ιανουάριο του 1990 απομακρύνθηκε από την τεχνική ηγεσία. Το 1992 κάθισε για δεύτερη φορά στον πάγκο της Εθνικής Ελλάδας, με την οποία είχε μία ακόμη πρωτιά, οδηγώντας τη στην τελική φάση του Παγκοσμίου Πρωταθλήματος των ΗΠΑ (1994). Τον Απρίλιο του 1999, αναλαμβάνει για μία ακόμη φορά τον Άρη και με έξι σερί νίκες τα τελευταία οκτώ παιχνίδια τού εξασφαλίζει την έξοδο στο Κύπελλο UEFA. Ήταν και το «κύκνειο άσμα» του στους πάγκους.
Ο Αλκέτας Παναγούλιας διακρίθηκε και εκτός ποδοσφαίρου. Διατέλεσε δημοτικός σύμβουλος στο Δήμο Θεσσαλονίκης και ήταν υποψήφιος βουλευτής με τη Νέα Δημοκρατία στην Α' Θεσσαλονίκης στις εθνικές εκλογές του 1993.
Πέθανε στις 18 Ιουνίου 2012 στην Ουάσιγκτον των ΗΠΑ, σε ηλικία 78 ετών.