๐ "LLM์ด ์ฅ๊ธฐ์ ํ๋จ์ ํ ์ ์์๊น? 365์ผ์ง๋ฆฌ ์๋ฎฌ๋ ์ด์ ์์ ์ธ๊ฐ์ 27.3%๋ง ๋ฌ์ฑํ ์ง์ง ์คํ"
MerchantBench: Benchmarking LLM Agents for Long-Term Coherence in E-Commerce Operations
๐๏ธ ์์: alibaba (๋น ํ ํฌ)
๐ท๏ธ ํต์ฌ ํค์๋: long-term coherence, e-commerce agent, simulation benchmark, LLM tool use, decision adaptation
๐ญ ์ด๋ฐ ์ง๋ฌธ์ ํด๋ณธ ์ ์๋์?
- โLLM์ด ์ฅ๊ธฐ์ ์ผ๋ก ์ผ๊ด๋ ๊ฒฐ์ ์ ๋ด๋ฆด ์ ์์๊น?โ
- โ์ค์ ์ผํ๋ชฐ ์ด์์ฒ๋ผ ์ฅ๊ธฐ์ ํผ๋๋ฐฑ์ ๊ณ ๋ คํ ํ๊ฐ ๊ธฐ์ค์ ์์๋?โ
- โ์ธ๊ฐ์ด 365์ผ ๋์ ์ด์ํ๋ ์ผํ๋ชฐ์ LLM์ด ๋ฐ๋ผ์ก์ ์ ์์๊น?โ
[ํต์ฌ ์ค๋ช : ๊ธฐ์กด์๋ ๋จ๊ธฐ ์ฑ๊ณต ๊ธฐ์ค๋ง์ผ๋ก LLM์ ํ๊ฐํ์๋๋ฐ, ์ด ๋ ผ๋ฌธ์ 365์ผ๊ฐ ์ง์ ๊ฐ๋ฅํ ๊ฒฝ์ ์์ฌ๊ฒฐ์ ์ ํ ์คํธํ๋ โ์ฅ๊ธฐ ์ผ๊ด์ฑโ์ ์ค์ฌ์ผ๋ก ์๋ก์ด ํ๊ฐ ํ๋ ์์ํฌ๋ฅผ ์ ์ํฉ๋๋ค.]
ํนํ ์ฃผ๋ชฉํ ์ :
- 365์ผ ์๋ฎฌ๋ ์ด์ ์์ ์ต๊ณ ์ฑ๋ฅ LLM์ ์ธ๊ฐ ์ฐธ๊ฐ์์ ํ๊ท ์ต์ข ์์์ฐ์ **27.3%**๋ง ๋ฌ์ฑ
- 98,843๊ฐ์ ์ค์ ์ ํ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ ํ๊ฒฝ์์ 26๊ฐ์ ๋๊ตฌ๋ฅผ ํ์ฉํด ์ฅ๊ธฐ์ ์์ฌ๊ฒฐ์ ์ ํ ์คํธ
๐ฏ ์ ์ด๊ฒ์ด ๊ฒ์ ์ฒด์ธ์ ์ธ๊ฐ? :
โ๋จ๊ธฐ ์ฑ๊ณต ๊ธฐ์ค์ผ๋ก๋ง ํ๊ฐํ๋ LLM ํ ์คํธโ โ โ365์ผ๊ฐ ์ฅ๊ธฐ์ ์์ฌ๊ฒฐ์ ๊ณผ ํผ๋๋ฐฑ ์ง์ฐ์ ๋ฐ์ํ ์ค์ ์ผํ๋ชฐ ์ด์ ์๋ฎฌ๋ ์ด์ โ