謝爾比自1995年至2003年間擔任參議院的特別情報委員會（Select Committee on Intelligence）的主席，在任滿8年後由於參議院的任期限制而不再連任。在柯林頓和布希任內謝爾比都對聯邦政府的情報單位抱持敵對態度。他在 1997年反對由Anthony Lake擔任中央情報局局長的提名，並承諾將會對中國使用美制衛星探測機密情報的事件展開調查。在2001年911事件後他也猛烈批評中央情報局局長喬治·泰內特（George Tenet）的表現，當泰內特於2004年7月辭職時，謝爾比還評論道：“我對此一點也不感驚訝。我驚訝的是為何他能保住這個職位那么久。”
自從2003年以來，謝爾比也擔任了參議院的銀行、住房和城市事務委員會（Committee on Banking, Housing, and Urban Affairs）的主席。他也是參議院撥款委員會（Committee on Appropriations）的成員之一（他擔任齊下的商業、司法和科學小組委員會的主席），以及衰老問題特別委員會（Special Committee on Aging）的成員。
謝爾比反對槍械管制和墮胎，並且支持了將婚姻定義為男女之間結合的聯邦婚姻修正案（Federal Marriage Amendment），他也堅定的支持平頭稅制度以及布希政府的大規模減稅，他宣稱民主黨對於高稅賦的支持便是造成他離開該黨的主要原因。謝爾比在任內發起的法案還包括了：一項將英語作為聯邦政府唯一語言的法案、限制聯邦政府開銷的法案、以及終止一些移民類型的法案。
不過，一般認為謝爾比並沒有比他同州同黨的參議員同僚—傑夫·賽辛斯要來的保守。舉例而言，謝爾比在成為共和黨員後不久便投票反對了兩項對侵權法改革（tort reform）的主要法案—Private Securities Litigation Reform Act以及Common Sense Product Liability and Legal Reform Act，兩個法案都被柯林頓總統投下否決票，不過第一個法案仍然順利的通過。謝爾比也投票反對北美自由貿易協定以及其他許多自由貿易協定，包括了最近的中美洲自由貿易協定（CAFTA）。他也在1987年反對了由保守派的Robert Bork擔任美國最高法院法官的提名。
職位
* 參議院衰老問題特別委員會（Committee on Aging）
* 參議院撥款委員會（Committee on Appropriations）
o 商業、司法和科學小組委員會（Subcommittee on Commerce, Justice and Science）—擔任主席
o 國防小組委員會（Subcommittee on Defence）
o 國內安全小組委員會（Subcommittee on Homeland Security）
o 勞工、健康與人類服務、教育和其它有關機構小組委員會（Subcommittee on Labor, Health and Human Services, Education & Related Agencies）
o 國家、外交活動和其他有關活動小組委員會（Subcommittee on State, Foreign Operations & Related Programs）
o 交通、財政、司法、住房與都市開發和其他有關機構小組委員會（Subcommittee on Transportation, Treasury, the Judiciary, HUD & Related Agencies）
* 參議院銀行、住房和城市事務委員會（Senate Committee on Banking, Housing & Urban Affairs）—擔任主席
o 經濟政策小組委員會（Subcommittee on Economic Policy）
o 住房和交通小組委員會（Subcommittee on Housing & Transportation）
