为什么在step>0的时候将do_sample设置为False呢？

[XingYing-stack]

感谢作者杰出的工作，我注意到在tool_utils.py中，作者设置了next_data.meta_info['do_sample'] = False # step > 0 does not do sample

请问这是出于什么样子的考虑呢？我这边发现在reasoning模型下，这样可能导致重复？

[James0618]

@XingYing-stack 是这样的大佬，是要只在第一步的时候sample n个出来，这样一个输入只会有n条轨迹，不然就可能有nnn...条轨迹了

[XingYing-stack]

谢谢回复！ 但是我理解这个do_sample设置成False的时候好像是用贪婪解码，但是do_sample=True的时候是在做采样。所以我理解这个只会理解解码的temperature，而不会导致轨迹数量的变化吗？