美国卫生部长称 AI 将终结医疗“暴政”，但 Gemini 和 ChatGPT 仍支持专家观点
美国卫生部长罗伯特·F·肯尼迪声称 AI 将终结医疗“暴政”，并认为 AI 比医生更了解疫苗和公共卫生建议。然而，Gemini 和 ChatGPT 等 AI 聊天机器人仍明确支持口罩和社交距离等专家观点。
#其他
#其他
今日 0 条Ars Technica · AIAI 评分1818
Hugging Face BlogAI 评分3333 从头推导连续批处理：优化大语言模型推理吞吐量
本文从注意力机制和 KV 缓存出发，推导了连续批处理技术，旨在通过并行处理多个对话并在完成后进行切换来最大化推理吞吐量。该技术解决了大语言模型在同时服务大量用户时因逐词生成导致的计算开销问题，使响应生成更加高效。