Η συστηματική ανασκαφή στην Ολυμπία, μια από τις πρώτες που πραγματοποιήθηκαν στην Ελλάδα, ήταν το αποτέλεσμα επίσημης συμφωνίας μεταξύ του ελληνικού και του πρωσικού κράτους. Η ανασκαφή ξεκίνησε με την ευθύνη του Γερμανικού Αρχαιολογικού Ινστιτούτου με εντατικούς ρυθμούς και πολυάριθμο προσωπικό το 1875 και διήρκησε πολλές περιόδους.
Λόγω της πρωτοποριακής επιστημονικής μεθοδολογίας που εισήχθη και εφαρμόστηκε από τους αρχαιολόγους του Γερμανικού Αρχαιολογικού Ινστιτούτου (Γ.Α.Ι.), η ανασκαφή της Ολυμπίας έγινε παράδειγμα που στη συνέχεια ακολουθήθηκε σε πολλές άλλες ανασκαφές.
Ακόμη και σήμερα, διεξάγονται ανασκαφικές έρευνες στην Ολυμπία τόσο από το Γ.Α.Ι. σε μικρότερη κλίμακα όσο και από την ελληνική Αρχαιολογική Υπηρεσία.
Στο μικρό μουσείο εκτίθενται διάφορα ενδιαφέροντα αντικείμενα όπως μια γκραβούρα του κάμπου της Ολυμπίας πριν την έναρξη των ανασκαφών, φωτογραφίες των πρωταγωνιστών των πρώτων εκστρατειών και των ανασκαφών, η ιστορική συμφωνία του 1875, όργανα και ανασκαφικά εργαλεία, έγγραφα που σχετίζονται με τις ανασκαφές, φωτογραφίες νεότερων ανασκαφές και άλλα αναμνηστικά.
Στο μικρό μουσείο εκτίθενται διάφορα ενδιαφέροντα αντικείμενα όπως μια γκραβούρα του κάμπου της Ολυμπίας πριν την έναρξη των ανασκαφών, φωτογραφίες των πρωταγωνιστών των πρώτων εκστρατειών και των ανασκαφών, η ιστορική συμφωνία του 1875, όργανα και ανασκαφικά εργαλεία, έγγραφα που σχετίζονται με τις ανασκαφές, φωτογραφίες νεότερων ανασκαφές και άλλα αναμνηστικά.
Η έκθεση στεγάζεται σε ένα μικρό κτήριο που στο παρελθόν χρησίμευε ως κατοικία και διοικητήριο των Ελλήνων αρχαιολόγων, ακριβώς δίπλα στο Μουσείο Ιστορίας των Ολυμπιακών Αγώνων στην Αρχαιότητα.
Μαζί με τα άλλα δύο μουσεία της Ολυμπίας, το Μουσείο της Ιστορίας των Ανασκαφών της Ολυμπίας ανακαινίστηκε και εγκαινιάστηκε στις 24 Μαρτίου 2004 εν όψει των Ολυμπιακών Αγώνων στην Αθήνα εκείνη τη χρονιά.
