Flux.1-schnellを触ってみた。

概要

• BlackForestLabsから新しくFlux.1という生成AIが発表されました。
• Flux.1のうちschnellというバージョンのモデルを触ってみました。
• 結果１枚の画像を生成するのに３０分かかりました。

スペック

• OS:Windows10 Pro
• CPU:i7 7700k
• Memory:32GB
• GPU:RTX4060Ti 16GB

ソースコード

• 公式のサンプルには書いてないですが、transformers,numpy,accelerate,sentencepiece,protobufが必要でした。

 
import torch  
from diffusers import FluxPipeline  
import datetime  
  
# transformers,numpy,accelerate,sentencepiece,protobufのinstall  
pipe = FluxPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)  
pipe.enable_model_cpu_offload() #save some VRAM by offloading the model to CPU. Remove this if you have enough GPU power  
prompt = "A cat holding a sign that says hello world"  
start_time = datetime.datetime.now()  
image = pipe(  
    prompt,  
    height=512,  
    width=512,  
    guidance_scale=3.0,  
    output_type="pil",  
    num_inference_steps=30,  
    max_sequence_length=256,  
    generator=torch.Generator("cuda").manual_seed(0)  
).images[0]  
  
elapsed_time = datetime.datetime.now() - start_time  
print(elapsed_time)  
image.save("flux-dev.png")
 

参考

• BlackForestLabs
• HuggingFaceのFlux.1