Олег Николаевич Крохин родился 14 марта 1932 года в Москве. В 1955 окончил [физический факультет МГУ, после чего работал в ядерном центре Минсредмаша СССР в Снежинске.
С 1959 года работает в Физическом институте имени П. Н. Лебедева АН СССР (ФИАН). В 1972 году назначен заместителем директора ФИАН. С 1994 по 2004 год был директором ФИАН. С 2004 года — Советник РАН.