Skip to content

Commit

Permalink
Test
Browse files Browse the repository at this point in the history
  • Loading branch information
regisss committed Nov 21, 2024
1 parent 6f2c8ee commit bcff0e6
Showing 1 changed file with 27 additions and 0 deletions.
27 changes: 27 additions & 0 deletions notebooks/ko/structured_generation.ipynb
Original file line number Diff line number Diff line change
Expand Up @@ -541,6 +541,33 @@
"result = generator(prompt)\n",
"print(result)"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"제약 생성(constrained generation)을 사용하여 [Text-Generation-Inference](https://huggingface.co/docs/text-generation-inference/en/index)를 활용할 수도 있습니다 (자세한 내용과 예시는 [문서](https://huggingface.co/docs/text-generation-inference/en/conceptual/guidance)를 참조하세요).\n",
"\n",
"지금까지 우리는 특정 RAG 사용 사례를 보여주었지만, 제약 생성은 그 이상으로 많은 도움이 됩니다.\n",
"\n",
"예를 들어, [LLM judge](llm_judge) 워크플로우에서도 제약 생성을 사용하여 다음과 같은 JSON을 출력할 수 있습니다:\n",
"```\n",
"{\n",
" \"score\": 1,\n",
" \"rationale\": \"The answer does not match the true answer at all.\"\n",
" \"confidence_level\": 0.85\n",
"}\n",
"```"
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "fEhBMgK4zyVk"
},
"source": [
"오늘은 여기까지입니다. 끝까지 따라와 주셔서 감사드립니다! 👏"
]
}
],
"metadata": {
Expand Down

0 comments on commit bcff0e6

Please sign in to comment.