В Конгрессе Трумэна преследовали слухи о его предыдущей связи с полумафиозным демократическим боссом из Миссури. Трумэн открещивался от них и пытался своей верностью «новому курсу», критикой «корпоративной жадности» развеять опасения по поводу его политических пристрастий. Его избрали в комитеты по бюджету и по торговле между штатами, в которых он стремился проводить рузвельтовский курс. Вместе с тем он всячески подчеркивал свою скромность, неоднократно заявляя: «Я лишь фермерский парень».
Надо сказать, что сам Пендергаст не злоупотреблял своим прошлым покровительством Трумэну, видимо, получив сдержанный ответ на первые просьбы. Он изредка обращался с ходатайствами, на которые Гарри обычно откликался. Когда в 1939 г. власти, наконец, добрались до миссурийского босса и он был арестован по обвинению во взяточничестве, общественность с интересом ожидала, как отнесется к этому Трумэн, полагая что он обрушится на Пендергаста. Но, ко всеобщему удивлению, Трумэн повел себя иначе. Он заявил, что Пендергасту не следует рассчитывать на справедливое рассмотрение его дела, что справедливость в отношении его так же вероятна, как та, на которую «может надеяться еврей в суде гитлеровской Германии или троцкист в суде Сталина». А вслед за этим Трумэн заявил: «Он был моим другом, когда был мне необходим. Я не отношусь к тем, кто покидает тонущий корабль». Это было довольно смелое, не вписывавшееся в рамки политкорректности заявление. Такого рода поведение в высших кругах не очень любили.
По истечении шестилетнего срока пребывания в сенате Трумэн выдвинул свою кандидатуру вновь. На этот раз выборы проходили уже в условиях начавшейся Второй мировой войны. Во всех предвыборных выступлениях он касался вопросов войны. Он считал необходимой подготовку на случай вовлечения в войну, если это произойдет против воли американского народа, но возражал против прямого вступления в конфликт с Германией. К кампании были привлечены влиятельные фигуры из армии, церкви, профсоюзов. Трумэн показал, что стал неплохим публичным политиком, мастером политической рекламы. На выборах 5 ноября 1940 г. он получил 51,2 % голосов и вновь стал сенатором.
Возобновив работу в Вашингтоне в начале 1941 г., Гарри Трумэн решил сосредоточить внимание на расследовании фактов коррупции во взаимоотношениях между государством и частными предприятиями, защищая интересы не только правительства, но также мелкого и среднего бизнеса. 3 февраля 1941 г. Трумэна по его просьбе принял президент. Речь шла о том, что интересы государства порой приходят в противоречие с жизненными потребностями рядовых американцев. Трудно сказать, повлияли ли на президента слова сенатора. Сам Трумэн на следующий день писал своему знакомому, что сомневается, добился ли чего-то от Рузвельта, кроме «сердечного приема». Все же одного Трумэн добился — Рузвельт узнал его как активного и теперь уже компетентного сенатора, стремившегося сочетать общенациональные цели с интересами широких слоев населения.
Вслед за этим Трумэн внес предложение о создании сенатского комитета по расследованию. Что именно будет расследовать этот орган, в названии не указывалось, но из проекта вытекало, что он будет заниматься всеми программами, связанными с обороной. 1 марта 1941 г. был образован Специальный комитет по расследованию контрактов, заключенных в рамках национальной программы обороны, его председателем стал Трумэн, а сам комитет стали называть «комитетом Трумэна». Первым делом, которым он занялся, стало расследование злоупотреблений при строительстве жилых и служебных помещений в военных лагерях. Следователи комитета установили факты бесхозяйственности, неразберихи, заключения контрактов на случайной основе и др. По требованию Трумэна все военно-строительные работы были переданы Армейскому инженерному корпусу.
Затем последовали новые расследования. После вступления США в войну комитет расширил свои полномочия, став важнейшим парламентским учреждением по контролю за экономическим обеспечением обороноспособности США. В учреждения и фирмы, подозреваемые в нелояльности или просто в неэффективности, направлялись следователи комитета. Полученный материал передавался одному из сенаторов, а тот принимал дальнейшие меры. Важное расследование 1942 г. посвящено было выяснению причин дефицита резиновых изделий, особо важных в условиях войны. На основании выявленных фактов были приняты меры по срочному увеличению производства резины, в том числе синтетической. В 1943 г. внимание общественности привлекло расследование деятельности корпорации «Юнайтед Стейтс стил», которая была уличена в поставках военно-морскому флоту низкокачественных стальных плит.
В одном случае Трумэн чуть было не напоролся на серьезную неприятность. Его следователи обнаружили, что в городе Миннеаполисе работает какой-то подозрительный завод. Следователей комитета туда не пускали, в разговоры с ними не вступали. Сенатор настаивал на допуске, но все продолжалось по-прежнему. В конце концов ему позвонил военный секретарь Генри Стимсон, который потребовал прекратить интересоваться этим предприятием. Позже стало известно, что оно работало на Манхэттенский проект.
В целом в годы войны известность «комитета Трумэна» росла, его расследований бизнесмены попросту боялись. Создавался имидж беспристрастного, внепартийного политика, готового пожертвовать своими амбициями во имя достижения истины в интересах успешного ведения войны. В марте 1943 г. на обложке популярного журнала «Время» (Time) появился портрет с подписью «Следователь Трумэн», а в номере была опубликована статья о нем под заголовком «Охранитель миллиарда долларов». Деятельность в комитете была для Рузвельта одним из оснований, когда он в 1944 г. выбирал себе пару на выборах.
Работая в комитете, Трумэн не мог не откликаться на главные мировые события. Он поддерживал политику нейтралитета, а затем постепенный отказ от нее, высказался в пользу рузвельтовской концепции «арсенала демократий». Отношение Трумэна к России показывает его ответ на вопрос журналиста, как он оценивает нападение Германии на СССР. Трумэн заявил: «Если мы увидим, что побеждает Германия, мы должны будем оказывать помощь России, а если будет побеждать Россия, мы должны помочь Германии, и таким образом пусть они убивают как можно больше, хотя я не хочу увидеть, что побеждает Гитлер, ни при каких обстоятельствах». Эти слова после войны будут часто цитировать советские издания, причем постоянно исключая последнюю часть. Цитата служила основанием для проклятий в адрес Трумэна, хотя высказывание, оказавшееся случайным и явно необдуманным, не совсем отражало его истинные взгляды. На самом деле он стоял на той же позиции, что и президент — готовности оказывать помощь СССР, рассматривая его как союзника.
С середины 1943 г., сперва подспудно, а затем все более открыто, разворачивалась предвыборная кампания. Единственным кандидатом от Демократической партии снова становился Рузвельт. Значительно сложнее обстояло дело с определением кандидата в вице-президенты. Между группами в Демократической партии шел торг по этому поводу. Хотя об этом вслух не говорили, существовали сомнения, доживет ли тяжелобольной Рузвельт до конца очередного срока. Ведь в случае его кончины пост перешел бы к вицепрезиденту.
В начале кампании политологи считали, что Рузвельт вновь выдвинет на должность вице-президента Генри Уоллеса. Но президент был им недоволен, поскольку считал, что тот проявляет излишнюю активность, становится все более левым, слишком тесно контактирует с рабочими организациями и непомерно восхваляет СССР и Сталина. Президент счел целесообразным подобрать более умеренного напарника. После колебаний он остановился на Трумэне, которого рекомендовали консультанты и лидеры Конгресса. Как уже известно, выборы оказались успешными для Рузвельта и, следовательно, для Трумэна. 20 января 1945 г. он принес клятву в качестве вице-президента США.
Трумэн не надеялся, что сможет принять реальное участие в решении важных вопросов. Так и произошло. После инаугурации он лишь два раза встретился с президентом. В дела его особо не посвящали, он даже не знал, что Рузвельт направляется на Ялтинскую конференцию (о чем прочитал только в газетах), не знал о Манхэттенском проекте. Фактически он вернулся в Сенат, но с иной функцией — председателя.
Именно в Сенате Гарри Трумэн проводил день 12 апреля. Внезапно его вызвали в Белый дом, где Элеонора Рузвельт, встретив его, произнесла: «Гарри, президент мертв», — а вслед за этим добавила: «Что я могу сделать для вас, мистер президент?» Вечером того же дня Трумэн принес президентскую клятву. На вице-президентском посту он пробыл всего 82 дня.
В первом выступлении в Конгрессе Трумэн заявил, что будет продолжать политику Рузвельта, но вскоре дал понять, что будет проводить самостоятельную линию, и сменил большинство министров. Особо важным было (правда, это произошло чуть позже) назначение на пост государственного секретаря бывшего председателя Объединенного комитета начальников штабов генерала Джорджа Маршалла, который к этому времени проявил и качества дипломата.
Менее чем через месяц после того, как Трумэн стал президентом, завершилась война в Европе. В ночь на 7 мая 1945 г. в штаб-квартире генерала Д. Эйзенхауэра в городе Реймсе был подписал Акт о безоговорочной капитуляции Германии, который по требованию советского руководства назвали предварительным, и провели еще одну, более торжественную церемонию через двое суток в пригороде Берлина Карлсхорсте. Но мировая война не завершилась — основные силы Японии сохранялись, и аналитики полагали, что для их разгрома понадобится не менее года.
Через полторы недели после вступления в должность президента Трумэн впервые встретился с наркомом иностранных дел СССР В. М. Молотовым, направлявшимся на учредительную конференцию ООН. Трумэн принял Молотова два раза, 22 и 23 апреля. Президент резко отчитал советского наркома за невыполнение соглашений о формировании коалиционного правительства Польши, а на следующий день вручил Молотову меморандум по этому вопросу, выдержанный в еще более острых тонах. Сильно преувеличивая происшедшее, Трумэн позже хвастал: «Я дал ему пару раз прямо в челюсть». После этого американской прессе было рекомендовано «не замалчивать трудности во взаимоотношениях между союзниками». 11 мая Трумэн подписал распоряжение о прекращении поставок по ленд-лизу.