スミスは9歳のときにピアノを、10歳でギターを始める。彼の音楽の才能は早くから発揮されており、自作のピアノ曲で賞をもらったこともあった。14歳のとき、オレゴン州ポートランドの実父のもとに移る。この頃、借り物の4トラックレコーダーで最初のレコーディングを行っている。また、友人の影響でドラッグやアルコールに手を出すようになった。高校在学中にはStranger Than Fiction、A Murder of Crows、The Greenhouseというバンドに所属した[注釈 2]。
大学時代に、彼は級友のニール・ガストと共にヒートマイザーを結成する。卒業後、トニー・ラッシュとブランド・ピーターソンが加入し、1992年頃からポートランド周辺で活動を始める。バンドは『Dead Air (1993年)』、『Cop and Speeder (1994年)』、『Yellow No. 5 EP (1994年)』をフロンティア・レコードから、最後のアルバムとなる『Mic City Sons (1996年)』をヴァージンからリリースした。1994年頃からスミスはヒートマイザーと並行してソロ活動を開始したが、彼のソロ・キャリアにおける成功はバンド・メンバーとの間に緊張を生じさせた。結局、ヒートマイザーは『Mic City Sons』の完成後、そのリリースを待たずして解散する。のちにスミスはヒートマイザー時代を振り返って「僕の書いた曲をロックのテーマソングみたいにされてしまうのはうんざりだった」と語る一方で、それにもかかわらずバンドを辞めなかったのは友人であるニール・ガストのためだったと述べている[7]。
スミスのソロ・デビュー・ライブは、1994年9月17日にUmbra Penumbraで行われた[注釈 4]。その後、メアリー・ルー・ロードの前座を依頼され、1週間ほどのアメリカ・ツアーに帯同した。何度かの短いツアーの後、スミスは「I Figured You Out」[注釈 5]をメアリー・ルー・ロードに提供し、レコーディングにも参加した。
アルバム『エリオット・スミス』と『イーザー / オア』
1995年、アルバム『エリオット・スミス』をKill Rock Starsからリリース。セルフタイトルであるが、スミス本人は同作を「名前のないアルバム」と表現していた。大部分はスミスが一人でレコーディングしたが、旧友のニール・ガストが「Single File」の、ザ・スピネインズのレベッカ・ゲイツが「St. Ides Heaven」の演奏に参加した。前作の作風を踏襲しつつ、さらに発展させた内容となっている。ドラッグとアルコール中毒を想起させる曲が多いが、スミスによればそれは表面的な解釈にすぎないという。後年、スミスはこのアルバムによって彼自身が「本当に暗くて落ち込んだ人間」だというイメージを世間に与えてしまったと振り返り、その後は意識して違った雰囲気の曲も書くようにしたと語っている。
1996年、ジェム・コーエンがスミスにフォーカスをあてたショートフィルム『Lucky Three』を撮影。この中で披露された2曲は、1997年にKill Rock Starsからリリースされたサード・アルバム『イーザー / オア』に収録された。このアルバムではベース、ドラム、キーボード、エレクトリックギターなど、前作と比べて多種多様な楽器が用いられた。なお、すべての楽器をスミス自身が演奏している。アルバムのタイトルはデンマークの哲学者キェルケゴールの同名の著書(「あれか、これか」: 実存的な絶望、恐怖、死、および神といったテーマを扱っている )から名付けられた。前作から一転、暖かみを増した本作はインディーズ時代の代表作とされている。この時期、スミスはすでに重度の飲酒癖を抱えていたが、それに加えて抗うつ薬を服用するようになる。また、ポートランドを離れ、ブルックリンに引っ越している。
「Miss Misery」とアカデミー賞
1996年、スミスは映画監督ガス・ヴァン・サントから彼の映画『グッド・ウィル・ハンティング/旅立ち』のサウンドトラックの依頼を受け、書き下ろしの新曲「Miss Misery」、オーケストラバージョンの「Between The Bars」およびリリース済みの3曲を提供した。1997年に公開された映画は成功をおさめ、スミスの「Miss Misery」も翌年のアカデミー歌曲賞にノミネートされた。
2001年、ウェス・アンダーソン監督の映画『ザ・ロイヤル・テネンバウムズ』において「Needle In The Hay」[注釈 9]が劇中歌として使われる[注釈 10]。もともとスミスはビートルズの「ヘイ・ジュード」のカバーを提供する予定だったが、期限に間に合わせることができなかったため、アンダーソンは代わりにオーケストラに演奏させた。アンダーソンは後に、「彼は悪い状態だったから、とても無理だった」と語っている[8]。
2003年10月21日、スミスは胸に負った二箇所の刺し傷が原因で死去。34歳だった。スミスと同棲していたジェニファー・チバによると、当日二人は口論をしチバはバスルームに閉じこもっていたが、突然叫び声が聞こえたので飛び出してみると、そこにはキッチンナイフが胸に刺さった状態のスミスが立っていた。彼女はナイフを引き抜いて、救急車を呼んだが、スミスは搬送先の病院で午後1時36分に死亡した。当初は自殺とみられたが、公開された検視報告書では殺人の可能性も否定されていない。現場に残された付箋には「ほんとうに悪かったな。愛してるよ。神よ我を許したまえ (I'm so sorry—love, Elliot. God forgive me.)」と遺書のようなメモが残されていた[注釈 13]。
さらに、2007年5月8日にはKill Rock Starより2枚組アルバム『ニュー・ムーン』がリリースされた。このアルバムの収録曲は1994年から1997年にかけて録音されたもので、未発表曲、デモ、シングルB面曲で構成されている。売り上げによって得られた利益の大半はポートランドにある慈善団体に寄付された。