Python异步复制API

发布于06月10日

我正在编写一个telegram 机器人，它将使用这个稳定的扩散模型生成图像:https://replicate.com/mbentley124/openjourney-img2img

我正在使用复制模块.但是，当有人发送请求时，下面的代码片段会降低机器人的运行速度.

async def txt2img(message, prompt, negative, stepMode, width, height):
print('Generating image for ' + str(message.chat.id))
output = replicate.run(
    "tstramer/midjourney-diffusion:436b051ebd8f68d23e83d22de5e198e0995357afef113768c20f0b6fcef23c8b",
    input={"prompt": "mdjrny-v4 " + prompt, "negative_prompt": negative, "num_inference_steps": stepMode*10, "width": width, "height": height}
)
print(output[0] + '\n')
return await message.answer_photo(output[0])

请帮助使此代码异步，这是可取的添加一个队列.

推荐答案

txt2img不是异步的，因为您正在使用的replicate.run函数是一个阻塞函数，让我们使用类似concurrent.futures的库在单独的线程中调用replicate.run.

就像我下面的例子一样，不要忘记将循环放在代码loop = asyncio.get_event_loop()中的某个位置

import concurrent.futures

async def txt2img(message, prompt, negative, stepMode, width, height):
    print('Generating image for ' + str(message.chat.id))

    def blocking_code():
        return replicate.run(
            "tstramer/midjourney-diffusion:436b051ebd8f68d23e83d22de5e198e0995357afef113768c20f0b6fcef23c8b",
            input={"prompt": "mdjrny-v4 " + prompt, "negative_prompt": negative, 
                   "num_inference_steps": stepMode*10, "width": width, "height": height}
        )

    with concurrent.futures.ThreadPoolExecutor() as executor:
        future = executor.submit(blocking_code)
        output = await loop.run_in_executor(None, future.result)

    print(output[0] + '\n')
    return await message.answer_photo(output[0])