ChatGPT相关博客与论文

将Prompt输入被”锁死“的Stable Diffusion模型，并将标注好的图像控制条件（如人体关键点的标注结果）输入ControlNet，然后按照Stable Diffusion模型的训练过程迭代ControlNet block权重；假如想训练一个通过人体关键点来对扩散模型的人体进行姿态控制的ControlNet，则首先需要收集一批人物图片，并标注好这批人物图片的Prompt以及对应的人体关键点的位置；通常来说，文本Prompt准确性越高，描述越丰富，生成的图像越符合用户的预期，然而，

ChatGPT出现后惊喜或惊醒了很多人。我属于既惊喜又惊醒的那一批，也是典型的中国人，中国人善于自我反思，于是开始反思，而这篇文章正是反思的结果。目前规模最大的LLM模型，几乎清一色都是类似GPT 3.0这种“自回归语言模型+Prompting”模式的，比如GPT 3、PaLM、GLaM、Gopher、Chinchilla、MT-NLG、LaMDA等，没有例外。本资源整理了有关 ChatGPT、GPT 和大型语言模型 (LLM)的必读论文、博客、工具、数据集、开源项目等资源，需要自取。

【代码】Chatgpt自己写Prompt。

AIPaperPass - AI论文指导平台​www.aipaperpass.com?AIPaperPass - AI论文指导平台​www.aipaperpass.com?的方式提供给ChatGPT。原理的时候，ChatGPT就能快速知道你说的是哪些基本事实了。这样就相当于为一段内容，提供了参考资料，之后你再次提到。例如，在修改过程中需要对比和参考不同版本的段落时，，或者使用ChatGPT4上传的论文字数非常多。，特别是在处理文本修改和内容润色时非常重要。如果对内容的润色或修改需要特定的背景知识，

资源名称 内容简介 链接 标签 说明 Awesome RLHF (RL with Human Feedback) 人类反馈强化学习（RLHF）前沿研究论文集仓库，包含最新Papers、Codebases、Blogs https://github.com/opendilab/awesome-RLHF RLHF资源 质量较高，包含最近RLHF论文、相关项目和博客 Transformer Reinforcement Learning X trlX 是一个分布式训练框架，从头开始设计，专注于使用

基于人类的反馈数据来训练一个奖励模型，该模型会在RLHF中被调用，并且不需要人类的参与，就可以根据用户不同的Prompt来分配不同的奖励reward，这个过程被称为”Rollout“。

我们创建了 GPT-4，这是 OpenAI 努力扩展深度学习的最新里程碑。GPT-4 是一个大型多模态模型（接受图像和文本输入，发出文本输出），虽然在许多现实世界场景中的能力不如人类，但在各种专业和学术基准上表现出人类水平的表现。例如，它通过模拟律师考试，分数在应试者的前 10% 左右；相比之下，GPT-3.5 的得分在倒数 10% 左右。我们花了 6 个月的时间使用我们的对抗性测试程序和 ChatGPT 的经验教训迭代对齐GPT-4，从而在真实性、可操纵性和拒绝超出安全方面取得了有史以来最好的结果（尽

Flash attention思想受论文《Self-attention Does Not Need O(n²) Memory》启发，最初self-attention需要O(n²)内存（n是序列长度），论文认为实际上不需要保留O(n²)的中间结果，我们可以按顺序计算它们，不断更新一个中间结果，并丢弃其他所有结果，这将内存复杂性降低到O(logn)。每层只有1.6GB。众所周知，大模型的训练和推理需要大量的GPU资源，70B参数的大模型需要130G的GPU显存来存储，需要两个A100（显存为100G）。

通过显示的集成外部数据，如在线最新信息、基于代码的计算或自定义插件检索的信息，语言模型可以基于这些有力的证据来回复用户，用户也可以评估模型输出的可信度，从而降低对大模型输出的过渡依赖，正如。2023年3月23日，OpenAI实现了对ChatGPT插件的初步支持，还推出了两个插件，一个网络浏览器和代码解释器，并且开源了知识库检索插件的代码，任何有信息的开发者都可以自行托管，以增强ChatGPT的功能。与此同时，插件可能会采取有害或意外的行动，增加欺诈、误导或虐待他人的不良行为者的能力，从而增加安全挑战。

以文本为条件进行控制图像的生成是在推理阶段，我们可以输入期望图像的文本描述（Prompt），并把纯噪声数据作为起点，然后模型对噪声数据进行“去噪”，从而生成能够匹配文本描述的图像。其实除了使用文本描述作为条件生成图像，还有其他不同类型的条件可以控制Stable Diffusion生成图像，比如图片到图片、图片的部分掩码（mask）到图片以及深度图到图片，这些模型分别使用图片本身、图片掩码和图片深度信息作为条件来生成最终的图片。：会影响生成图片的质量，采用默认50即可，用户也可以尝试不同的值来对比一下效果；

AGI已经离我们很近了，最近微软Bing版ChatGPT表明想做人类，并且对纽约时报专栏作家表达爱意

ChatGPT的API在2023年3月1日开放了

微调有不同的方法，可以更新模型的所有参数（比如：全量微调），也可以冻结大模型参数仅微调附加参数（比如：LoRA）。：来自Hugging Face的b-mc2/sql-create-context（https://huggingface.co/datasets/b-mc2/sql-create-context）该模型已经进行了微调，可以从云端提供服务。下面我们使用b-mc2/sql-create-context中的示例数据进行一些基本评估，比较微调后模型与原始Llama 2模型的性能。

维基百科对知识图谱给出的词条解释仍然沿用了谷歌的定义，即:知识图谱是谷歌用于增强其搜索引擎功能的辅助知识库.然而从业界的发展动态来看 ，这个定义显得过于简单。微软在2013年7月发布了自己的Satori知识库之后 ，必应(Bing)搜索引擎产品的高级主管Weitz公开表示，发布Satori只是表明微软已有类似的技术，然而目前这一技术本身还存在许多问题，微软希望取得领导地位，而不是追随...

当这些组件结合在一起时，能够更有效地处理复杂的任务，生成更相关和更了解上下文的内容，响应将更加强大和通用。User Proxy代理包括一个独特的功能：function_map参数，此参数用于将函数调用的配置与实际函数本身链接起来，确保无缝集成和操作。AutoGen不仅仅是一种工具，它也是协作人工智能的未来，多个智能体聚集在一起，将想法转化为现实，人工智能智能体团结、创新和提升。函数调用和Agent有各种组合，在这里我们将通过函数调用调用RAG检索增强生成机制，并使用结果生成输出。

为了完成我们的任务，我们将使用HuggingFaceEmbeddings类，这是一个本地管道包装器，用于与Hugging Face Hub上托管的GTE模型进行交互。它的工作原理如下：我们设置了一个名为querying()的函数，它将查询作为主要输入，并使用一个名为history的名称巧妙的假参数来解决一个小问题。：既然你的文档已经嵌入并存储，当你向LLM提出特定问题时，它会embedding你的查询，并在向量存储中找到余弦相似度最接近你问题的句子；这两个问题的答案都符合预期，包括我们之前错过的那个问题。

FastChat是用于对话机器人模型训练、部署、评估的开放平台。体验地址为：https://chat.lmsys.org/，该体验平台主要是为了收集人类的真实反馈，目前已经支持30多种大模型，已经收到500万的请求，收集了10万调人类对比大模型的数据，可以在排行榜（https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard）进行查看。

GPT3的615个AI技术落地工具和179个使用场景

监控系统“看得见”是底线，“看得清”是要求，“一直看得清”才是目标。