Hans Joachim Faller wurde am 17. Mai 1915 geboren. Er begann seine juristische Laufbahn im Jahre 1948 als Gerichtsassessor beim Amtsgericht und bei der Staatsanwaltschaft Offenburg und ab 1949 als Landgerichtsrat beim Landgericht Offenburg. Von 1950 bis 1953 war er als Oberregierungsrat im Badischen Ministerium der Justiz und im Bundesjustizministerium sowie von 1953 bis 1959 als Regierungsdirektor beim Bundesverfassungsgericht tätig. Am 1. September 1959 wurde er zum Bundesrichter am Bundesgerichtshof ernannt. Mit Wirkung vom 8. Dezember 1971 wurde Hans Joachim Faller vom Bundesrat zum Mitglied des Ersten Senats des Bundesverfassungsgerichts gewählt.
Im Jahr 1976 erfolgte seine Ernennung zum Honorarprofessor an der Universität Mannheim (Wirtschaftshochschule). Am 19. Juli 1983 trat er in den Ruhestand. Ebenfalls 1983 wurde er vom damaligen Bundespräsidenten Karl Carstens für seine Verdienste um Staat und Volk mit dem Großen Verdienstkreuz mit Stern und Schulterband des Verdienstordens der Bundesrepublik Deutschland ausgezeichnet.