목록Parallel (1)

Nathaniel

3. Langchain LCEL, Parallel

지난번 LCEL문법을 사용하여 Langchain의 chain을 진행했다.유닉스 파이프를 인용한 " | " 문자를 사용해 chain을 만들었는데 그 구조는 아래와 같다.chain = prompt | llm | Outputparser  stream = 실시간 출력으로 응답 받고invoke = 출력되는 답변을 완성될 때까지 기다렸다가 한번에 받기위 두 가지를 진행했었다. Batch, max_concurrency 이번엔 batch(단위 실행) 여러 개의 딕셔너리를 포함하는 리스트를 인자로 받아서 딕셔너리에 있는topic의 키 값을 사용한 일괄처리 수행방법이다. answer = chain.batch([{"topic:": "ChatGPT"}, {"topic":"instagram"}]) 이런 방식이다.그리고 변수로 ..
AI 2025. 3. 2. 15:31
이전 Prev 1 Next 다음