[BUG] DeepSpeed-Chat Step3 - actor model repeats generating the same token when hybrid engine enabled about deepspeedexamples HOT 6 OPEN

Model: llama-2

from deepspeedexamples.

It repeats to generate '\n' more frequently.

from deepspeedexamples.

想问您一下，您把 --hybrid_engine_enabled参数去掉以后，训练速度是不是特别慢

from deepspeedexamples.

想问您一下，您把 --hybrid_engine_enabled参数去掉以后，训练速度是不是特别慢

@zjintheroom 是的，耗时增加了一倍

from deepspeedexamples.

想问您一下，您把 --hybrid_engine_enabled参数去掉以后，训练速度是不是特别慢

@zjintheroom 是的，耗时增加了一倍

谢谢您的回复，想问您一下，您的配置文件方便给一下么，actor model 和 rewarded model 的zero stage，您这边是怎么选的呢

from deepspeedexamples.

想问您一下，您把 --hybrid_engine_enabled参数去掉以后，训练速度是不是特别慢

@zjintheroom 是的，耗时增加了一倍

谢谢您的回复，想问您一下，您的配置文件方便给一下么，actor model 和 rewarded model 的zero stage，您这边是怎么选的呢

都是stage 3，这个相关的设置基本与DS-Chat保持一致

from deepspeedexamples.