Search results

OpenAI์˜ gpt-oss ๋ชจ๋ธ์— ์ด์–ด, RAG (๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ)์—์„œ ๋งค์šฐ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•˜๋Š” ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ Google์—์„œ ์ƒˆ๋กญ๊ฒŒ ์˜คํ”ˆ ์†Œ์Šค๋กœ ๊ณต๊ฐœํ—€์Šต๋‹ˆ๋‹ค.

EmbeddingGemma๋ผ๋Š” ์ด๋ฆ„์˜ ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ๋กœ, ๊ณ ์„ฑ๋Šฅ ํ•˜๋“œ์›จ์–ด ์—†์ด๋„ RAG๋ฅผ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ์œผ๋ฉด์„œ, ํ•œ๊ตญ์–ด, ์ค‘๊ตญ์–ด, ์ผ๋ณธ์–ด๋ฅผ ํฌํ•จํ•œ ์ˆ˜๋งŽ์€ ์–ธ์–ด๋ฅผ ์ง€์›ํ•˜๋„๋ก ๊ฐœ๋ฐœ๋œ ๋ชจ๋ธ์ด์–ด์„œ ์˜๋ฏธ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ทธ๋ž˜์„œ ์žฌ๋นจ๋ฆฌ File-based App๊ณผ Semantic Kernel์šฉ์œผ๋กœ ๊ฐœ๋ฐœ๋œ sqlite-vec ํ™•์žฅ ๋ชจ๋“ˆ์„ ๋ถ™์—ฌ์„œ ํ”„๋กœํ† ํƒ€์ž… ์ฝ”๋“œ๋ฅผ ๋งŒ๋“ค์–ด๋ดค๋Š”๋ฐ, ์ž˜ ์ž‘๋™ํ•˜๋Š” ๊ฒƒ ๊ฐ™๋„ค์š”! :-D

https://forum.dotnetdev.kr/t/google-embeddinggemma-ollama-sqlite-vec-rag/13754

Google EmbeddingGemma + Ollama + sqlite-vec์œผ๋กœ ๊ฐ„๋‹จํ•œ ๋กœ์ปฌ RAG ๊ตฌํ˜„ํ•˜๊ธฐ

OpenAI์˜ gpt-oss ๋ชจ๋ธ์— ์ด์–ด, RAG (๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ)์—์„œ ๋งค์šฐ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•˜๋Š” ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ์„ Google์—์„œ ์ƒˆ๋กญ๊ฒŒ ์˜คํ”ˆ ์†Œ์Šค๋กœ ๊ณต๊ฐœํ—€์Šต๋‹ˆ๋‹ค. EmbeddingGemma๋ผ๋Š” ์ด๋ฆ„์˜ ์ž„๋ฒ ๋”ฉ ๋ชจ๋ธ๋กœ, ๊ณ ์„ฑ๋Šฅ ํ•˜๋“œ์›จ์–ด ์—†์ด๋„ RAG๋ฅผ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ์œผ๋ฉด์„œ, ํ•œ๊ตญ์–ด, ์ค‘๊ตญ์–ด, ์ผ๋ณธ์–ด๋ฅผ ํฌํ•จํ•œ ์ˆ˜๋งŽ์€ ์–ธ์–ด๋ฅผ ์ง€์›ํ•˜๋„๋ก ๊ฐœ๋ฐœ๋œ ๋ชจ๋ธ์ด์–ด์„œ ์˜๋ฏธ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ž˜์„œ ์žฌ๋นจ๋ฆฌ File-based App๊ณผ Semantic Kernel์šฉ์œผ๋กœ ๊ฐœ๋ฐœ๋œ sqlite-vec ํ™•์žฅ ๋ชจ๋“ˆ์„ ๋ถ™์—ฌ์„œ ํ”„๋กœํ† ํƒ€์ž… ์ฝ”๋“œ๋ฅผ ๋งŒ๋“ค์–ด๋ดค๋Š”๋ฐ, ์ž˜ ์ž‘๋™ํ•˜๋Š” ๊ฒƒ ๊ฐ™๋„ค์š”! ๐Ÿ˜ƒ ์ฐธ๊ณ ๋กœ, | ๊ธฐํ˜ธ๋‚˜ query: ๊ฐ™์€ ๋ผ๋ฒจ์€ ์—„๊ฒฉํ•œ ์˜๋ฏธ์˜ ๋ฌธ๋ฒ•์€ ์•„๋‹ˆ๊ณ  EmbeddingGemma๊ฐ€ ๋™์ž‘ํ•˜๋Š” ๋ฐฉ์‹์— ๋งž์ถฐ์ฃผ๊ธฐ ์œ„ํ•œ ๋ถ€๋ถ„์ด๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค. (https://ai.google.dev/gemma/docs/embeddinggemma/inference-embeddinggemma-with-sentence-transformer...

forum.dotnetdev.kr ยท ๋‹ท๋„ท๋ฐ๋ธŒ

1
0
0
0