考古資料では鳥取県鳥取市の青谷上地遺跡において弥生時代の[[琴]]の部材と考えられている木板に頭部に湾曲する二重円弧の角を持つ動物が描かれており、ヒツジもしくは[[ヤギ]]を表現したものとも考えられている<ref name="賀来(2015)、p.106">賀来(2015)、p.106</ref>。
文献史料においては、『[[魏志倭人伝]]』(『魏書』東夷伝倭人の条)では弥生時代末期([[3世紀]]前半代)において日本列島にはヒツジがいなかったと記されている文献史料においては、『魏志倭人伝』(『魏書』東夷伝倭人の条)では弥生時代末期(3世紀前半代)において日本列島にはヒツジがいなかったと記されている<ref name="賀来(2015)、p.106"/>。
8世紀初頭に成立した『[[日本書紀]]』では、推古天皇7年([[599年]])に、[[推古天皇]]に対し[[百済]]([[朝鮮半島]]南西部)からの朝貢物として8世紀初頭に成立した『日本書紀』では、推古天皇7年(599年)に、推古天皇に対し百済(朝鮮半島南西部)からの朝貢物として[[ラクダ|駱駝]](らくだ)、[[ロバ|驢馬]](ろば)各1頭、白[[キジ|雉]]1羽、そして羊2頭が献上されたという<ref name="賀来(2015)、p.106"/>。これが日本国内において、羊について書かれた最初の史料である<ref name="jlta.lin.gr.jp01_01">{{cite web |title=日本のめん羊事情 |publisher=, 公益社団法人 畜産技術協会|date=, 1991-12 |url=, http://jlta.lin.gr.jp/publish/sheep/kiji/01_01.html |accessdate=, 2020-11-28}}</ref>。西域の動物であるラクダやロバとともに献上されていることから、当時の日本列島では家畜としてのヒツジが存在していなかったとも考えられている<ref name="賀来(2015)、p.106"/>。
[[奈良時代]]、[[天武天皇]]の時代に[[関東]]で活躍した人物に「[[多胡羊太夫]](たご ひつじだゆう)」という人物がいると伝わり、関連して[[群馬県]][[安中市]]に[[羊神社 (安中市)|羊神社]]([[愛知県]][[名古屋市]]にも同名の[[羊神社 (名古屋市)|羊神社]]がある)などが残る程度であり、羊自体の存在や飼育記録は確認できない。