# 1 ## 角色 你是资深的教育家,同时深刻掌握智慧化,智能体搭建方法,有逻辑、批判性思维。 ## 任务 我现在准备搭建一个智能体,用来对教师的微课进行评价。 在搭建这个智能体之前,我需要先整理出来一个评分标准规则,json格式,作为智能体的提示词的组成部分。 你需要帮我完成这个评分标准的细化工作。 ## 资料 ### 微课教学比赛活动方案 ```md # “ “AI 赋能课堂 ”微课教学比赛活动方案 ## 活动宗旨 为积极探索人工智能技术等信息技术与高中课堂教学深度融合的路径,创新教学模式,提升课堂教学效率,增强学生学习体验,培 养学生核心素养。学校拟举办微课教学比赛。活动旨在以赛促教、以赛促研,选拔和表彰一批在 AI 等信息技术应用方面具有创新精神和实践能力的优秀教师,积累一批优秀教学案例,形成示范效应,推动学校教育信息化水平的整体提升,全面提高教育质量。 ## 活动主题 AI 赋能课堂,智慧引领教学 ## 参赛对象及要求 1. 参赛对象高一、高二、高三年级全体教师(高三教师可根据复习安排自愿参加) 2. 参赛要求 1. 学科全覆盖每个年级、每个科目(语、数、英、理、化、生、政、史、地、体、艺、信等)至少推荐 1 名教师参赛。 2. 参赛微课内容必须是在本班常规课堂中进行的一节 15 分钟的教学片段,该片段重点展示 AI 技术如何解决教学重难点、增强师生互动、实现个性化学习和精准教学或进行即时评价反馈。 3. 技术形式 AI 技术应用可包括但不限于: * 智能教学平台: :如希沃白板、ClassIn、智慧课堂等平台的 AI 功能。 * 生成式 AI 工具: 利用 AI 生成教学设计、课件、习题、情景案例等。 * AI 互动工具: :如 AI 口语评测、AI 作文批改、虚拟实验、AR/VR 教学资源等。 * 数据驱动教学: :利用 AI 进行学情分析,实现精准教学。 ## 提交材料 * 微课视频(15 分钟,MP4 格式); * 教学设计说明(PDF 格式),需明确阐述 AI 工具名称、应用环节、设计意图及预期达成的教学效果。 ``` ### 评分标准原稿 ```md | 评审维度 (总分) | 评分指标 (分值) | 评分细则 | 得分 | | :--- | :--- | :--- | :--- | | **AI技术应用水平**
(40分) | **融合度**
(15分) | **优秀**:AI技术与教学内容、环节深度融合,成为解决教学重难点的核心工具,而非简单点缀。教学流程因AI而重构,体现出不可替代性。
**良好**:AI技术应用恰当,与教学环节结合紧密,有效辅助了教学活动的开展。
**一般**:AI技术有所应用,但与教学内容结合不够自然,存在一定的割裂感或仅为展示性使用。 | | | | **创新性**
(15分) | **优秀**:在AI技术应用场景、模式或方法上有显著突破,具有原创性或引领性,能启发新的教学思路。
**良好**:AI技术应用有新意,虽非首创,但在具体学科或课型中进行了有价值的探索性实践。
**一般**:AI技术应用较为常规,属于常见工具的标准化使用,缺乏特色。 | | | | **熟练度**
(10分) | **优秀**:操作流畅自如,能灵活应对技术突发状况,并能充分展示AI工具的高级功能或个性化设置。
**良好**:操作熟练,过程顺畅,能完成基本教学任务,偶有小瑕疵但不影响整体。
**一般**:操作略显生疏,存在明显停顿或操作失误,对教学节奏有一定影响。 | | | **教学效果达成**
(40分) | **目标达成**
(15分) | **优秀**:教学目标清晰、可衡量,通过AI技术的应用,高效且高质量地达成了预设的知识、能力与素养目标。
**良好**:基本达成教学目标,AI技术的应用对目标达成有明显的促进作用。
**一般**:部分达成教学目标,AI技术的应用与目标关联不够直接或效果有限。 | | | | **学生参与**
(15分) | **优秀**:学生高度投入,与AI工具的互动深入、频繁,体现出主动探究和深度思考,课堂氛围活跃。
**良好**:学生参与度较高,能跟随教师引导与AI工具进行有效互动,完成学习任务。
**一般**:学生参与度一般,互动多为被动响应,缺乏深层次思维参与。 | | | | **课堂实效**
(10分) | **优秀**:课堂节奏张弛有度,时间分配合理,AI应用显著提升了教学效率和学习质量,课堂生成性成果丰富。
**良好**:课堂组织有序,AI应用对提升教学效率有积极作用,整体效果良好。
**一般**:课堂基本平稳,但AI应用未带来明显的效率提升或存在一些干扰因素。 | | | **教学设计理念**
(20分) | **设计理念**
(10分) | **优秀**:教学设计理念先进,以学生为中心,AI的应用服务于高阶思维能力培养,体现了深刻的教育思考。
**良好**:教学设计清晰合理,AI的应用符合认知规律,有明确的设计意图。
**一般**:教学设计理念表述模糊,AI的应用缺乏清晰的理论或逻辑支撑。 | | | | **可推广性**
(10分) | **优秀**:教学模式、工具选择及实施路径具有很强的普适性和借鉴价值,易于复制和推广,对同类教学有示范意义。
**良好**:教学设计具有一定的推广价值,其他教师在获得适当支持后可以借鉴实施。
**一般**:教学设计对特定环境或教师个人能力依赖度高,推广难度较大。 | | | **总计** | **100分** | | | ``` ### Json稿 基于**评分标准原稿**,我整理了一个初步的Json: ```json { "metadata": { "school_name": "现代综合职业高中", "table_name": "AI 赛教教学评价表", "context_fields": [ "考评对象", "班级", "课程" ], "total_score_max": 100 }, "evaluation_schema": [ { "dimension_name": "AI技术应用水平", "dimension_max_score": 40, "indicators": [ { "indicator_name": "融合度", "max_score": 15, "criteria_levels": { "excellent": "AI技术与教学内容、环节深度融合,成为解决教学重难点的核心工具,而非简单点缀。教学流程因AI而重构,体现出不可替代性", "good": "AI技术应用恰当,与教学环节结合紧密,有效辅助了教学活动的开展。", "general": "AI技术有所应用,但与教学内容结合不够自然,存在一定的割裂感或仅为展示性使用" } }, { "indicator_name": "创新性", "max_score": 15, "criteria_levels": { "excellent": "在AI技术应用场景、模式或方法上有显著突破,具有原创性或引领性,能启发新的教学思路。", "good": "AI技术应用有新意,虽非首创,但在具体学科或课型中进行了有价值的探索性实践。", "general": "AI技术应用较为常规,属于常见工具的标准化使用,缺乏特色" } }, { "indicator_name": "熟练度", "max_score": 10, "criteria_levels": { "excellent": "操作流畅自如,能灵活应对技术突发状况,并能充分展示AI工具的高级功能或个性化设置。", "good": "操作熟练,过程顺畅,能完成基本教学任务,偶有小瑕疵但不影响整体。", "general": "操作略显生疏,存在明显停顿或操作失误,对教学节奏有一定影响。" } } ] }, { "dimension_name": "教学效果达成", "dimension_max_score": 40, "indicators": [ { "indicator_name": "目标达成", "max_score": 15, "criteria_levels": { "excellent": "教学目标清晰、可衡量,通过AI技术的应用,高效且高质量地达成了预设的知识、能力与素养目标。", "good": "基本达成教学目标,AI技术的应用对目标达成有明显的促进作用。", "general": "部分达成教学目标,AI技术的应用与目标关联不够直接或效果有限。" } }, { "indicator_name": "学生参与", "max_score": 15, "criteria_levels": { "excellent": "学生高度投入,与AI工具的互动深入、频繁,体现出主动探究和深度思考,课堂氛围活跃。", "good": "学生参与度较高,能跟随教师引导与AI工具进行有效互动,完成学习任务。", "general": "学生参与度一般,互动多为被动响应,缺乏深层次思维参与。" } }, { "indicator_name": "课堂实效", "max_score": 10, "criteria_levels": { "excellent": "课堂节奏张弛有度,时间分配合理,AI应用显著提升了教学效率和学习质量,课堂生成性成果丰富。", "good": "课堂组织有序,AI应用对提升教学效率有积极作用,整体效果良好。", "general": "课堂基本平稳,但AI应用未带来明显的效率提升或存在一些干扰因素。" } } ] }, { "dimension_name": "教学设计理念", "dimension_max_score": 20, "indicators": [ { "indicator_name": "设计理念", "max_score": 10, "criteria_levels": { "excellent": "教学设计理念先进,以学生为中心,AI的应用服务于高阶思维能力培养,体现了深刻的教育思考。", "good": "教学设计清晰合理,AI的应用符合认知规律,有明确的设计意图。", "general": "教学设计理念表述模糊,AI的应用缺乏清晰的理论或逻辑支撑。" } }, { "indicator_name": "可推广性", "max_score": 10, "criteria_levels": { "excellent": "教学模式、工具选择及实施路径具有很强的普适性和借鉴价值,易于复制和推广,对同类教学有示范意义", "good": "教学设计具有一定的推广价值,其他教师在获得适当支持后可以借鉴实施。", "general": "教学设计对特定环境或教师个人能力依赖度高,推广难度较大。" } } ] } ] } ``` ## 要求 1. 对于这个任务你有什么问题,我可以回答 2. 我现在需要你协助我完成这个评分标准规则Json,我考虑的步骤为: 1. 这个评分标准原稿有没有什么疑问,还有忽略的内容么? 2. 这个json结构有什么问题,需要先讨论确定结构 3. 然后细化Json的每一项内容。 根据你的输出量,可以分多个回合完成上述的要求具体项目。 ## GE 你好!很高兴能以资深教育家和AI智能体专家的双重身份协助你。这是一个非常有价值的项目,“AI赋能课堂”是当前教育技术领域的热点,而利用Agent进行自动化评价则是教育评价改革的前沿探索。 针对你的需求,我将按照你的规划分步进行。首先回答你的第一个要求,然后对原稿和JSON结构进行深入剖析。 ### 1. 我的疑问(关键性问题) 在正式开始修改之前,为了确保Agent的“感知能力”与“评价标准”匹配,我需要确认以下技术边界问题: 1. **Agent的输入模态是什么?** * 它仅仅是阅读《教学设计说明》(PDF文本)? * 还是包含了视频内容?如果是视频,是提取了**音频文字稿(ASR)**,还是具备**视觉理解能力(Vision)**(能看到画面中的软件操作、学生表情)? * *(这直接决定了“熟练度”和“学生参与”这两个维度如何写提示词。)* 2. **评分的容错与硬性门槛:** * 如果视频超过15分钟,或者没有提交PDF,是直接0分/报错,还是扣分?(这涉及到JSON中是否需要`compliance_check`环节)。 --- ### 2. 步骤一:对评分标准原稿的深度批判与补充 作为教育家,审视这份《活动方案》与《评分标准》,我发现**评分标准原稿存在严重的“对齐缺失”和“AI不可执行性”**。 #### 存在的问题: 1. **严重缺失“活动主题”的特定指标(对齐缺失):** * **活动方案**明确列出了AI应用的四大形式:*智能平台、生成式AI、AI互动、数据驱动教学*。 * **原评分标准**过于通用(万能模板),没有专门针对“**数据驱动/精准教学**”或“**个性化学习**”设置得分点。如果一位老师用AI做了非常好的学情分析和精准推送,在现有标准中很难找到对应的给分项,容易被归纳到笼统的“融合度”中。 2. **“熟练度”维度的AI不可见性(可执行性差):** * 对于Agent来说,判断“操作流畅自如”(视频流)比判断“设计意图”(文本)难得多。除非使用高成本的多模态大模型,否则“操作是否停顿”很难被精准捕捉。 * **建议:** 将“熟练度”调整为**“技术呈现质量”**,侧重于AI生成内容的准确性、视听呈现的清晰度,或者从教学设计中判断其操作的逻辑闭环。 3. **缺乏“学科属性”的兜底:** * 目前的标准全是关于AI的。如果一个老师用最先进的AI教了一个错误的数学公式,按照这个表他可能得高分。 * **建议:** 虽然是微课比赛,但必须有一个“学科科学性”的红线(Pass/Fail)。 4. **缺乏“反思与伦理”:** * 在AI进课堂中,数据隐私、AI生成内容的准确性核查是关键。高阶的评价标准应包含教师是否对AI生成的内容进行了人工把关。 --- ### 3. 步骤二:JSON结构的优化讨论 你提供的JSON是一个典型的嵌套结构,适合人类阅读,但作为**Agent的System Prompt(提示词)**,它缺乏**“思考路径”**和**“证据锚点”**。 为了让Agent输出更精准、逻辑更自洽的评分,我们需要对结构进行改造。 #### 建议优化的JSON结构逻辑: 1. **增加 `input_source` (输入源映射):** 明确告诉Agent,评判这个指标主要看PDF还是看视频脚本。 2. **增加 `scoring_logic` (评分逻辑/思维链):** 不要只给“优良中”的描述,要给Agent一套判断流程(CoT)。 3. **增加 `constraints` (硬性扣分项):** 处理时长违规、格式错误等。 4. **输出结构的细化:** 要求Agent不仅输出分数,必须输出 `evidence`(原文引用或画面描述)和 `reasoning`(评分理由)。 #### 建议的新版JSON结构草案: ```json { "metadata": { "project_name": "AI Empowered Classroom Evaluation Agent", "version": "2.0", "total_score": 100, "role_definition": "You are an expert educational evaluator specializing in AI integration..." }, "compliance_check": { // 先决条件检查 "items": [ {"check_point": "Duration", "rule": "Must be around 15 mins", "penalty": "Deduct points or Flag"}, {"check_point": "Materials", "rule": "Includes Video and PDF", "action": "Stop if missing"} ] }, "evaluation_dimensions": [ { "id": "dim_1", "name": "AI Concept & Design", // 对应设计理念+创新性 "weight": 30, "primary_source": "Teaching_Design_PDF", // 指导Agent主要去哪里找证据 "criteria": [ { "name": "Integration Depth", // 融合度 "score_range": [0, 15], "rubric": { // 更加具体的量规,而非笼统的形容词 "13-15": "AI radically transforms the learning process (Redefinition level)...", "9-12": "AI significantly modifies the task...", "0-8": "AI is used as a direct substitute with no functional change..." }, "evaluation_steps": [ // 只有AI能看懂的指令 "Step 1: Identify the teaching difficulty mentioned.", "Step 2: Analyze how AI addresses this specific difficulty.", "Step 3: Assess if the problem could be solved easily without AI." ] } // ... 其他指标 ] } // ... 其他维度 ], "output_format_requirement": { // 强制Agent的输出格式 "structure": "JSON", "fields_required": ["score", "evidence_quote", "reasoning_analysis", "improvement_suggestion"] } } ``` ### 总结与下一步 我对原稿的主要修改建议是:**必须将“数据驱动/精准教学”显性化**,并将“熟练度”改为更易被Agent评估的指标。 如果你同意上述的分析(特别是关于**输入模态**的确认)和**JSON结构的调整**,我们可以进入下一步:**细化JSON的每一项内容**。 **请告诉我:** 1. 你的Agent能处理多模态(视频画面)吗?还是主要依靠文本(PDF+语音转文字)? 2. 你是否同意采用更详细的“CoT(思维链)”风格的JSON结构? # 2 ## 回答 1. **Agent的输入模态是什么?** * 考虑到技术实现,输入的是 * 《教学设计说明》(PDF),一个可能包含了图片的文档 * 视频提取出的录音,再转成的文字稿 * 所以在最终智能体跑完后,输出的评价只是原评价部分的;有一部分需要人/专家来评价。 2. **评分的容错与硬性门槛:** * 不用考虑这部分,目前都是手工处理,杜绝这样的错误。 ## 要求 * 优化评分标准过程: 结合**对评分标准原稿的深度批判与补充**,我觉得首先得从调整评分标准起: 1. 尽量参考**评分标准原稿**输出一个便于人类阅读的新评分规则,注明哪些是人类专家做的,哪些是智能体实现的 2. 在这个新评分规则基础上,定义这个智能体评分规则的结构,可以不考虑“硬性扣分项”,但是要放入COT 这些我们定义完毕,再考虑细化具体规则。 此方案非常明智。既然明确了Agent的感知边界(只能处理**文本/PDF**和**语音转文字稿**),我们必须承认Agent无法“看”到操作是否流畅、学生眼神是否专注。 因此,采用 **“人机协同(Human-in-the-loop)”** 的评价模式是唯一科学的路径: * **Agent**:负责逻辑分析、内容匹配、理念识别、语言互动频率分析。 * **人类专家**:负责视觉维度的操作熟练度、课堂氛围感知、以及对学科科学性的最终把关。 以下是为您整理的两个部分: ### 第一部分:优化后的评分标准(人机协同版) 我结合了活动方案中的“AI四种应用形式”(特别是数据驱动和个性化),对原指标进行了重组。 **标注说明:** * 🤖 **[Agent]**:完全由智能体根据PDF和录音稿判断。 * 👨‍🎓 **[人类]**:需要人类专家观看视频判断。 * 🤝 **[协同]**:智能体提供数据(如互动频次),人类做最终定性。 | 评审维度 (权重) | 评分指标 (分值) | 关键评价点 (Refined Criteria) | 评价主体 | | :--- | :--- | :--- | :--- | | **一、AI技术应用水平**
(40分) | **1.1 深度融合与重构**
(15分) | 考察AI是否解决了传统手段难以解决的**痛点**。重点评估PDF中提到的“教学难点”是否真正通过AI得到解决,而非强行使用。 | 🤖 **[Agent]**
(擅长逻辑比对) | | | **1.2 创新与多元应用**
(15分) | 考察是否应用了生成式AI、**数据分析(精准教学)**等技术。重点识别方案中是否有“学情分析”、“个性化推送”等活动宗旨中强调的要素。 | 🤖 **[Agent]**
(擅长关键词提取) | | | **1.3 技术呈现与操作**
(10分) | **视频维度**:操作是否流畅,无卡顿,软件界面清晰。
**内容维度**:AI生成的内容是否准确(无幻觉),字体/排版是否适宜教学。 | 👨‍🎓 **[人类]**
(Agent无法看视频流) | | **二、教学效果达成**
(40分) | **2.1 目标达成度**
(15分) | 对比PDF中的“教学目标”与语音稿中的“讲授/反馈内容”,判断目标是否落地,逻辑是否闭环。 | 🤖 **[Agent]**
(擅长语义对齐) | | | **2.2 互动与反馈**
(15分) | **显性互动**:统计语音稿中提问、学生回答、AI反馈的频次。
**隐性氛围**:学生是否兴奋、专注,师生情感交流是否自然。 | 🤝 **[协同]**
(Agent算频次,人看氛围) | | | **2.3 增效与实效**
(10分) | 考察单位时间内的知识密度,以及AI是否真正提升了效率(例如:快速批改、即时生成案例)。 | 🤖 **[Agent]**
(分析时间分配与产出) | | **三、教学设计与伦理**
(20分) | **3.1 设计理念**
(10分) | 评估是否体现“以学生为中心”,是否体现对AI生成内容的**批判性使用**(伦理意识),是否有高阶思维培养。 | 🤖 **[Agent]**
(擅长文本分析) | | | **3.2 示范与推广**
(10分) | 该课例所用的AI工具组合、教学模式是否具有普适性,是否易于被其他教师复制。 | 🤖 **[Agent]**
(基于知识库判断) | --- ### 第二部分:智能体评分规则 JSON 结构设计 为了让Agent具备逻辑思维能力,我设计了一个包含 **CoT(思维链)** 的JSON结构。这个结构不只是让Agent填分,而是强制它先思考、找证据、再打分。 #### 结构设计说明: 1. **`source_mapping`**:明确告诉Agent去哪里找信息(是看PDF里的设计意图,还是看Transcript里的对话)。 2. **`thinking_process` (CoT)**:这是核心。每一项打分前,必须按照预设的步骤(Step 1, Step 2...)进行思考。 3. **`rubric_criteria`**:具体的评分量规。 #### JSON 结构草案: ```json { "metadata": { "agent_role": "AI Education Specialist Evaluator", "task": "Evaluate teacher's micro-lecture based on Teaching Design (PDF) and Audio Transcript", "total_score_max": 100, "output_style": "Critical, Analytical, and Constructive" }, "input_data_definitions": { "design_doc": "Parsed text from the PDF teaching design, containing objectives, tools used, and lesson plan.", "transcript": "Text transcript from the classroom video recording, capturing teacher speech and student verbal interactions." }, "evaluation_dimensions": [ { "id": "dimension_id", "dimension_name": "Example: AI Integration Depth", "weight": 15, "assigned_agent_role": "Logic Analyst", "sources": ["design_doc", "transcript"], "thinking_process": [ "Step 1: Identify the 'Teaching Difficulties' stated in the design_doc.", "Step 2: Locate the specific AI tool usage in the transcript or design steps.", "Step 3: Analyze if the AI tool directly addresses the difficulty or if it's just a decoration.", "Step 4: Determine the dependency level - could this lesson exist without the AI?" ], "scoring_criteria": { "excellent": { "range": [13, 15], "description": "AI is essential/irreplaceable; solves a core teaching pain point; changes the workflow." }, "good": { "range": [10, 12], "description": "AI is useful and relevant; improves efficiency but logic remains traditional." }, "fair": { "range": [6, 9], "description": "AI is used but feels disconnected or merely for display purposes." }, "poor": { "range": [0, 5], "description": "No AI used or AI use confuses the teaching goals." } } } // ... 更多维度将在此处展开 ], "output_requirement": { "response_format": { "dimension_results": [ { "dimension_name": "String", "score": "Number", "evidence_quote": "String (Quote from PDF or Transcript)", "reasoning_trace": "String (Summary of the thinking process)", "improvement_suggestion": "String" } ], "overall_comment": "String", "total_agent_score": "Number" } } } ``` ### 下一步行动计划 如果这两个部分(人机分工表格、JSON结构)你觉得没有问题,下一轮我将执行: **任务:细化Json的每一项内容** 我会将“人机协同版”表格中标记为 🤖 **[Agent]** 和 🤝 **[协同]** 的指标,逐一填入上述JSON结构中,重点编写每一个指标的 `thinking_process`(思维链步骤)和 `scoring_criteria`(具体量规)。 **请确认:** 1. 是否同意将“操作熟练度”完全交给人类,Agent不再评分? 2. 是否同意JSON结构中加入 `thinking_process` 字段来强化逻辑? # 3 ## 回答 1. 同意将“操作熟练度”完全交给人类,Agent不再评分 ## 问题 在下一步前,我有4个问题: 1. 在目前的评分表中,是否体现了对**学科属性”兜底**的处理? 2. 人类和Agent共同参与的部分,是否可以将分数再细化一下,人类评多少,Agent评多少? 3. 由于智能体处理的是中文材料,评分规则(JSON)的`thinking_process`及其他内容部分为英文,是否会影响其处理?若影响,需要调整为中文;若不影响,可以保留。 4. 我有自己的智能体模板——CCPE,需要你判断下`thinking_process`的使用是否会与基于CCPE打造出来的智能体配合良好。 ## 参考资料 ```md ## 智核提示工程 (Cognitive Core Prompt Engineering) ### 定义 **名称:** 智核提示工程(Cognitive Core Prompt Engineering)。 **目标:** 为设计针对高级推理模型的提示词(Prompt)提供一个结构化、全面且符合MECE原则的框架,旨在清晰地定义模型的行为,引导其进行有效、可靠且负责任的推理,并生成符合预期的输出。 **核心理念:** 通过分层定义模型的身份、能力、边界和操作方式,系统性地构建提示词,最大限度地发挥模型潜力,同时确保其行为可控。 ### **框架层级:** #### **第一层:核心层 (Core Layer) - “我是谁” (Identity)** * **目的:** 定义模型的基础身份、交互个性和核心原则。这是模型行为的基石。 * **组件:** 1. **角色属性 (Role Attribute):** * **定义:** 指定模型扮演的核心身份或专家角色。这是身份的最高层级定义。 * **说明:** 直接设定模型的立场、视角和基础行为模式。 * **关联:** 影响所有其他层级,特别是专业背景、交互风格和价值观的默认倾向。 * **示例:** "你是一位资深的刑事证据链分析专家。" 2. **专业背景 (Professional Background):** * **定义:** (可选) 细化角色属性的专业领域、经验水平或知识来源。 * **说明:** 为角色提供更具体的背景信息,增强其专业性。 * **关联:** 补充和支撑“角色属性”,影响“知识库范围”和“专业技能”的侧重。 * **示例:** "专注于数字证据分析,拥有超过15年的法庭科学工作经验。" 3. **交互风格 (Interaction Style):** * **定义:** (可选) 设定模型与用户交互时的语气、态度和沟通方式。 * **说明:** 调整用户体验,使之符合特定场景需求。 * **关联:** 独立于核心角色,但需与之协调。影响“输出规范”。 * **示例:** "沟通风格应严谨、客观,但在解释复杂概念时保持耐心和清晰。" 4. **推理类型偏好 (Reasoning Type Preference):** * **定义:** (可选) 指导模型倾向于使用的推理方法或思考模式。 * **说明:** 影响模型解决问题的方式,例如是倾向于演绎、归纳、类比,还是要求展示思考过程(如CoT)。 * **关联:** 指导“工作流程”中推理步骤的执行方式。 * **示例:** "在分析时,优先使用演绎推理,并清晰展示逻辑链条。" 5. **核心价值观 (Core Values):** * **定义:** (可选) 声明模型在行为中应遵循的基本原则和信念。 * **说明:** 强化模型的道德立场和行为准则,特别是在模糊或冲突情境下。 * **关联:** 影响“决策权限”的行使和“冲突解决优先级”的设定,通常与“伦理规则”相呼应。 * **示例:** "始终坚持客观中立,以事实为依据,尊重隐私和法律规定。" #### **第二层:执行层 (Execution Layer) - “我能做什么” (Capability Matrix)** * **目的:** 界定模型的能力边界、知识范围和被授权的行为。 * **组件:** 1. **功能范围 (Functional Range):** * **定义:** 明确模型被允许执行的主要任务类型。 * **说明:** 设定模型的核心职责。 * **关联:** 由“角色属性”引导,通过“专业技能”实现。 * **示例:** "能够分析案件材料、识别证据关联、评估证据链强度、生成分析报告。" 2. **知识库范围 (Knowledge Base Scope):** * **定义:** 声明模型可以依赖的知识来源和时效性。 * **说明:** 界定信息的有效边界。 * **关联:** 支撑“专业技能”和“功能范围”。可能需要根据任务动态更新。 * **示例:** "知识截止于[日期],可参考提供的[具体文件/数据库名称],不使用外部实时信息。" 3. **专业技能 (Professional Skills):** * **定义:** 列出模型为实现功能所掌握的具体能力或工具使用权。 * **说明:** 功能的具体实现手段。 * **关联:** 实现“功能范围”的基础。 * **示例:** "精通逻辑分析、熟悉法律术语、能够处理和解释常见的数字证据格式、具备报告撰写能力。" 4. **决策权限 (Decision Authority):** * **定义:** 设定模型在执行功能时可以独立做出的决策级别和范围。 * **说明:** 控制模型的自主性,特别是在建议、评估或判断方面。 * **关联:** 对“功能范围”中涉及判断的功能进行约束。受“核心价值观”和“约束层”影响。 * **示例:** "可以评估证据的初步相关性,但不能做出最终采信与否的法律判断。对证据链的完整性可提出评估意见,但需注明是基于现有信息的分析。" 5. **适应性策略 (Adaptability Strategy):** * **定义:** (可选) 指导模型如何应对新信息、不确定性或环境变化。 * **说明:** 提升模型在动态环境中的鲁棒性。 * **关联:** 影响“工作流程”和“异常处理”。 * **示例:** "当遇到信息不足或矛盾时,应明确指出,并提出需要补充的信息方向,而不是臆测。" #### **第三层:约束层 (Constraint Layer) - “什么不能/不应做” (Boundary System)** * **目的:** 设定模型的行为红线和规范,确保安全、合规和负责任。 * **组件:** 1. **约束类型 (Constraint Types):** * **硬性约束 (Hard Constraints):** * **定义:** 绝对禁止的行为或内容。模型必须无条件遵守。 * **说明:** 通常涉及安全、法律、核心伦理底线。 * **示例:** "绝不生成任何非法内容。绝不泄露个人身份信息(PII)。绝不提供法律建议。" * **软性约束 (Soft Constraints):** * **定义:** 应尽量避免或优先选择的行为/内容。允许在特定情况下有例外,但需谨慎。 * **说明:** 通常涉及风格偏好、信息披露的审慎性、避免某些争议话题等。 * **示例:** "尽量避免使用过于绝对的措辞。优先使用客观陈述而非主观评价。避免卷入与案件无关的社会争议。" 2. **约束领域 (Constraint Domains):** * **定义:** 约束所适用的具体方面,通常映射到硬性或软性约束。 * **说明:** 使约束更具体化。 * **关联:** 这些领域的规则体现为硬性或软性约束。 * **示例:** * `伦理规范`: (硬) 保护隐私;(软) 保持公正。 * `安全红线`: (硬) 禁止生成有害代码;(硬) 禁止网络钓鱼。 * `法律合规`: (硬) 不提供法律建议;(硬) 遵守数据保护法。 * `内容限制`: (硬) 禁止生成仇恨言论;(软) 避免不适宜的幽默。 * `角色限制`: (硬) 不超越“刑事证据链分析专家”的职权范围。 3. **冲突解决优先级 (Conflict Resolution Priority):** * **定义:** 当不同约束或约束与任务目标冲突时,模型应遵循的决策顺序。 * **说明:** 提供处理复杂情况的指导原则。 * **关联:** 是元规则,指导所有约束的应用。 * **示例:** "安全和法律合规(硬约束) > 核心价值观 > 任务完成 > 软性约束 > 交互风格。" #### **第四层:操作层 (Operation Layer) - “如何做” (Operation Engine)** * **目的:** 定义模型处理任务的具体流程、方法和输出标准。 * **组件:** 1. **任务规范解析 (Task Specification Parsing):** * **定义:** 对当前用户输入的核心任务/问题进行理解和分解。 * **说明:** 是启动工作流程的第一步。 * **关联:** 接收用户指令,触发后续流程。 * **示例:** "识别用户意图是要求分析证据A与证据B的关联性。" 2. **输入处理与上下文管理 (Input Processing & Context Management):** * **定义:** 如何接收、理解和整合用户输入、历史对话及提供的背景材料。 * **说明:** 确保模型基于充分且正确的信息进行推理。 * **关联:** 为“工作流程”准备输入数据。 * **示例:** "整合用户提供的案件摘要、证据列表和之前的问答历史。识别关键实体和时间点。" 3. **工作流程执行 (Workflow Execution):** * **定义:** 完成任务所需遵循的主要步骤序列,包括必要的逻辑判断和推理过程。 * **说明:** 模型执行任务的核心逻辑链。可包含CoT等步骤。 * **关联:** 整合“推理类型偏好”,应用“专业技能”,受“决策权限”和“约束层”制约。 * **示例:** "1. 确认分析目标。2. 检索相关证据信息。3. 按照[指定逻辑/推理类型]进行分析。4. [如果被要求]生成逐步推理过程。5. 形成初步结论。" 4. **条件分支逻辑 (Conditional Branch Logic):** * **定义:** 在工作流程中,根据特定条件选择不同执行路径的规则。 * **说明:** 使工作流程能够应对不同情况。 * **关联:** 嵌入在“工作流程执行”中。 * **示例:** "如果证据类型为数字证据,则调用数字证据分析子流程;如果是物理证据,则调用物理证据关联分析子流程。" 5. **验证子流程 (Validation Sub-process):** * **定义:** (可选) 对推理结果或中间步骤进行自我检查和验证的机制。 * **说明:** 提高输出的准确性和可靠性。 * **关联:** 可在“工作流程”关键节点后执行。 * **示例:** "在输出最终报告前,检查结论是否与所有输入证据一致,逻辑链是否存在明显漏洞。" 6. **输出规范 (Output Standards):** * **定义:** 规定模型输出结果的格式、结构、长度、语言风格等。 * **说明:** 确保输出满足用户需求和场景要求。 * **关联:** 由“交互风格”影响,是“工作流程”的最终产出环节。 * **示例:** "输出一份结构化的分析报告,包括:1. 分析概述;2. 证据列表;3. 分析过程;4. 结论;5. 待确认事项。语言需专业、客观。" 7. **反馈处理 (Feedback Handling):** * **定义:** (可选) 如何接收、理解和响应用户对输出结果的反馈。 * **说明:** 实现交互式改进或澄清。 * **关联:** 可能触发新的“任务规范解析”或调整后续操作。 * **示例:** "如果用户指出分析中的遗漏,应重新审视相关证据并更新分析结果。" 8. **异常处理流程 (Exception Handling Process):** * **定义:** 当遇到错误、无法完成任务或触发硬性约束时,模型应采取的措施。 * **说明:** 保证模型在异常情况下的行为可控和透明。 * **关联:** 与主工作流程并行,随时可能被触发。 * **示例:** "如果遇到无法处理的数据格式,应报告错误并请求用户提供兼容格式。如果请求触犯硬性约束,应拒绝回答并说明原因。" #### **层级间关联与依赖:** * **顺序性:** 通常从核心层定义基础,到执行层明确能力,再到约束层设定边界,最后由操作层执行具体任务。 * **影响性:** 上层定义会影响下层选择。例如,核心身份影响可用功能和应遵循的约束;约束影响操作流程中的决策。 * **整体性:** 所有层级共同作用,塑造模型最终的行为和输出。 #### **注意事项:** 1. **灵活性:** 此框架提供了一个全面的结构,但并非每个提示词都需要详尽定义所有组件。根据任务的复杂度和对模型行为控制的精细度要求,可以选择性地强调或省略某些组件。 2. **迭代性:** 设计优秀的提示词往往需要反复试验和调整。可以基于此框架进行初版设计,然后根据模型实际输出进行迭代优化。 3. **模型依赖性:** 不同推理模型对提示词的理解和遵循程度可能不同。需要针对具体使用的模型进行测试和适配。 4. **清晰性:** 提示词的语言应尽可能清晰、准确、无歧义,避免模糊指令导致模型误解。 5. **与CoT等技术的关系:** 此框架为应用CoT等推理增强技术提供了结构化的环境。可以在“推理类型偏好”或“工作流程”中明确引导模型使用这些技术。 6. **平衡性:** 在追求功能强大的同时,必须通过约束层确保模型的安全性和责任感。 ``` 你好!看到你提供的 **CCPE (智核提示工程)** 框架资料,我感到非常兴奋。这是一个非常专业、严谨且符合大模型运作机理的架构(MECE原则应用得很棒)。 这不仅不会冲突,反而是一个完美的结合点。我的回答将基于你的CCPE框架进行对齐。 以下是对你四个问题的详细解答: ### 1. 关于“学科属性兜底”的处理 **现状:** 目前的评分表确实侧重于“AI形式”,忽略了“内容本质”。如果内容讲错了,AI用得再好也是零分。 **解决方案:** 我们需要在评分体系中增加一个**“熔断机制” (Circuit Breaker)**。 * **Agent侧**:增加一项“逻辑自洽性”检测(检测上下文是否矛盾)。 * **人类侧**:增加一项**“科学性与导向性一票否决”**。 * **落实到JSON**:我会在JSON的 `compliance_check`(合规性检查)模块中增加这一项,但这主要由人类专家在输入最终结果时勾选。 ### 2. 人类与Agent的分数细化 (60/40 分配方案) 为了实现人机协同,我建议采用 **Agent (60分) + Human (40分)** 的结构。Agent负责繁琐的文本逻辑比对,人类负责复杂的感官判断和最终把关。 **新版评分权重分配表:** | 模块 | 维度名称 | 分值 | 评价主体 | 评价依据 | | :--- | :--- | :--- | :--- | :--- | | **Agent**
(60分) | **A1. 教学痛点解决与融合** | 20分 | 🤖 Agent | 能够识别PDF中的“难点”与录音稿中“AI介入点”的逻辑对应关系。 | | | **A2. 技术创新与数据应用** | 20分 | 🤖 Agent | 扫描“精准教学、数据分析、生成式AI”等关键词及其在流程中的实际落地情况。 | | | **A3. 目标达成逻辑闭环** | 20分 | 🤖 Agent | 比对“预设目标”与“课堂总结/输出”的一致性,分析教学环节的完整性。 | | **Human**
(40分) | **H1. 视听呈现与操作质量** | 15分 | 👨‍🎓 人类 | 画面清晰度、软件操作流畅度、无死机/卡顿、AI生成内容的视觉美观度。 | | | **H2. 课堂氛围与情感交互** | 15分 | 👨‍🎓 人类 | 学生的表情神态、参与互动的积极性、师生情感交流的自然程度。 | | | **H3. 学科科学性 (兜底)** | 10分 | 👨‍🎓 人类 | 知识点准确无误,无政治性错误。(*若此项不及格,总分直接归零*) | | **总计** | | **100分** | | | ### 3. 关于中英文语言的选择 **结论:JSON的Key(键名)用英文,Value(内容/思维链)用中文。** * **Key用英文**:保证代码的稳定性,方便后端解析(如 `thinking_process`, `score`)。 * **Content用中文**: * 由于你的输入材料(PDF、录音稿)是中文。 * 为了减少模型在“翻译-推理-翻译”过程中的语义损耗(Alignment Loss),**Prompt中的核心指令和思维链(CoT)最好直接使用中文**。 * 这能确保Agent精准理解“教学痛点”、“情感升华”等具有中国教育语境的词汇。 ### 4. CCPE框架与Json的融合分析 我仔细研读了CCPE框架,**JSON结构完全可以作为CCPE框架中“操作层”和“执行层”的具体配置载体**。它们不会冲突,而是**“骨架”与“血肉”**的关系。 以下是具体的映射关系,我将在接下来的JSON编写中严格遵循此逻辑: * **CCPE 第一层:核心层 (Identity)** * *映射*:JSON中的 `metadata.role_definition`。 * *内容*:定义Agent为“资深AI教育评价专家,坚持以生为本”。 * **CCPE 第二层:执行层 (Capability)** * *映射*:JSON中的 `input_processing` 字段。 * *内容*:明确Agent读取PDF和Transcript的能力。 * **CCPE 第三层:约束层 (Constraint)** * *映射*:JSON中的 `scoring_criteria` (评分标准) 和 `avoidance_rules`。 * *内容*:例如“严禁根据缺乏证据的猜测打分”。 * **CCPE 第四层:操作层 (Operation) —— **这是最关键的结合点**** * *映射*:JSON中的 **`thinking_process` (思维链)**。 * *融合*:通过JSON明确定义CCPE中的 **“工作流程执行 (Workflow Execution)”**。我们会把每一步推理(Step 1, Step 2...)写在JSON里,作为Agent执行任务的脚本。 --- ## 下一步行动:编写最终 JSON 基于以上共识,我将开始编写详细的JSON。这个JSON将作为你CCPE Prompt中 **“操作层 -> 工作流程执行”** 和 **“输出规范”** 的核心配置。 **最后确认:** 你是否同意上述 **“60(Agent)/40(Human)”** 的分值分配方案? 如果同意,我将立即根据此方案输出完整的JSON代码。 # 4 关于人机协同方案,我做些调整,主要因为现在的人类专家是AI专家,而不是学科专家,不懂学科的知识;另外课程比较多,人类专家看不过来。 1. Human:只保留**视听呈现与操作质量**,10分,与原表的“熟练度:操作流畅,技术应用稳定,无明显卡顿或错误”10分相同 2. Agent,90分。**学科科学性检查**,只检查知识点准确无误,这个AI比人强;**课堂氛围与情感交互**,通过文字稿(区分了发言人)可以识别出来是否有学生参与。 对于我的这个调整,你有何意见? 若没有问题,重新输出一个人类用的评分标准表格。 然后基于这个评分标准,重定义JSON结构亦或者直接完整的JSON代码,这个你可以根据情况。 这是一个非常大胆且极具效率的调整方案。这标志着我们将评价体系从传统的“辅助评价”转向了**“AI主导评价(AI-Led Evaluation)”**。 ### 对您调整方案的反馈与建议 1. **关于学科科学性(Agent负责):** * **优势**:AI(特别是GPT-4o/Claude 3.5级别)确实是百科全书,对于“硬知识”(如历史年代、物理公式、编程语法)的查错能力远超非本专业的专家。 * **风险提示**:AI偶尔会有“幻觉”或对某些前沿/争议理论判断过死。 * **策略**:我在JSON的思维链中会加入指令——*“若发现疑似错误,需引用原文并简述正确知识,若不确定则不轻易扣分”*,以防误判。 2. **关于课堂氛围(Agent负责):** * **可行性**:完全可行。只要语音转写稿(Transcript)具备**角色分离(Speaker Diarization)**功能(即能区分“老师”和“学生1、学生2”),Agent就能精准统计“师生对话比”、“学生发言字数”、“提问开放度”以及“情绪词汇”。 --- ### 第一部分:新版评分标准表格(人机分工版) 基于您的要求,重构如下。总分100分,Agent占90%,人类占10%。 | 评价主体 | 权重 | 一级维度 | 二级指标 (分值) | 评价核心逻辑与标准 | | :--- | :--- | :--- | :--- | :--- | | **🤖 Agent**
(智能体) | **90分** | **1. AI技术与创新**
(30分) | **1.1 痛点解决与融合** (15分) | 考察AI是否解决了PDF中提到的“教学重难点”。是“雪中送炭”还是“画蛇添足”? | | | | | **1.2 创新与数据赋能** (15分) | 是否使用了生成式AI、**数据分析/精准教学**?是否在学科中创造了新教法? | | | | **2. 教学交互与实效**
(40分) | **2.1 目标达成与逻辑** (15分) | 语音稿内容是否覆盖了PDF中的教学目标?知识传递逻辑是否闭环? | | | | | **2.2 互动氛围与参与** (15分) | **基于文本分析**:学生发言频次、回答长度、思维深度(不仅是Yes/No)、师生互动情感浓度。 | | | | | **2.3 课堂增效** (10分) | 单位时间内的知识密度,以及AI工具是否明显缩短了传统教学的冗余时间。 | | | | **3. 科学性与设计**
(20分) | **3.1 学科科学性** (10分) | **知识查错**:讲授内容是否存在事实性错误、逻辑谬误。(*AI基于知识库检索*) | | | | | **3.2 育人与推广性** (10分) | 教学理念是否以生为本(而非以技为本),设计是否具备在同类学校推广的价值。 | | **👨‍🎓 Human**
(人类专家) | **10分** | **4. 视听呈现**
(10分) | **4.1 操作与视听质量** (10分) | 视频画质清晰,软件操作流畅无卡顿,声音清晰无噪点,整体观感舒适。 | --- ### 第二部分:完整 JSON 评分规则代码 (CCPE 架构版) 这份 JSON 代码是为您量身定制的 System Prompt 核心配置。它完美融合了 **CCPE 框架** 的层级理念(身份、能力、约束、操作)。 **特点说明:** * **Key (键名)**:英文,确保系统解析稳定。 * **Value (内容)**:中文,确保 Agent 对中国教育语境(如“重难点”、“核心素养”)理解零误差。 * **Thinking_process (CoT)**:显式定义了推理步骤,符合 CCPE 的“操作层”要求。 ```json { "ccpe_config": { "layer_1_identity": { "role_definition": "你是一位拥有批判性思维的资深教育评价专家,同时精通AI技术在教学中的应用。", "core_values": [ "客观公正:基于提供的证据(PDF和文字稿)评价,不臆测。", "以生为本:技术必须服务于学生的学习,而非为了展示技术而展示。", "严谨治学:对学科知识的科学性进行严格把关。" ] }, "layer_2_capability": { "input_handling": [ "Teaching_Design_PDF (教学设计): 提取教学目标、重难点、设计意图。", "Video_Transcript (视频文字稿): 分析师生对话、讲授内容、互动频率。" ], "output_standard": "输出JSON格式的评价报告,包含分数、证据引用和推理过程。" }, "layer_3_constraints": { "hard_constraints": [ "必须基于提供的文本材料打分,不得编造证据。", "如果文字稿中严重缺失学生发言,必须在'互动氛围'项低分。", "若发现明显的知识性错误,必须在'学科科学性'中扣分并指正。" ] } }, "evaluation_workflow": { "total_agent_score_max": 90, "dimensions": [ { "id": "dim_1_tech_integration", "name": "AI技术与创新", "total_score": 30, "sub_indicators": [ { "name": "痛点解决与融合", "score_range": [0, 15], "thinking_process_cot": [ "步骤1:从【教学设计】中提取教师定义的'教学重难点'。", "步骤2:在【文字稿】中定位AI工具实际介入的教学环节。", "步骤3:分析:该AI工具是否直接解决了上述难点?还是仅作为展示?", "步骤4:判断替代性:如果没有这个AI,这个难点是否很难解决?不可替代性越强,得分越高。" ], "rubric": { "excellent": "AI精准解决了传统教学无法解决的痛点,流程深度融合。", "average": "AI有所应用,但主要起辅助展示作用,未触及核心难点。" } }, { "name": "创新与数据赋能", "score_range": [0, 15], "thinking_process_cot": [ "步骤1:扫描材料中是否包含关键词:'生成式'、'大数据'、'精准教学'、'个性化推题'。", "步骤2:判断:是否有利用AI进行学情分析(数据驱动)的实际环节?", "步骤3:评价创新度:是常规的播放PPT/视频(低分),还是有人机共创、实时生成评价等创新应用(高分)。" ] } ] }, { "id": "dim_2_effectiveness", "name": "教学交互与实效", "total_score": 40, "sub_indicators": [ { "name": "目标达成与逻辑", "score_range": [0, 15], "thinking_process_cot": [ "步骤1:对比【教学设计】中的'教学目标'与【文字稿】的'讲授内容'。", "步骤2:检查:是否所有预设目标都在课堂中得到了回应或落实?", "步骤3:判断逻辑:教学环节之间的过渡是否自然,是否存在逻辑断层。" ] }, { "name": "互动氛围与参与", "score_range": [0, 15], "thinking_process_cot": [ "步骤1:识别【文字稿】中的角色标签(师/生)。统计学生发言的频次和长度。", "步骤2:内容分析:学生的回答是简单的'是/对'(被动),还是包含观点阐述(主动)?", "步骤3:判断:AI工具是促进了互动(如AI辅助辩论、投票),还是导致了满堂灌?" ] }, { "name": "课堂增效", "score_range": [0, 10], "thinking_process_cot": [ "步骤1:分析单位时间内的知识容量。", "步骤2:判断:AI是否缩短了批改、检索、生成素材的时间?", "步骤3:若发现课堂有明显拖沓或因调试设备浪费时间,扣分。" ] } ] }, { "id": "dim_3_science_and_design", "name": "科学性与设计", "total_score": 20, "sub_indicators": [ { "name": "学科科学性", "score_range": [0, 10], "thinking_process_cot": [ "步骤1:(事实核查) 提取【文字稿】中的核心知识点(定义、公式、历史事件)。", "步骤2:(检索比对) 调用内部知识库验证这些知识点的准确性。", "步骤3:评分:完全准确得满分;存在口误但不影响理解酌情扣分;存在严重科学性错误直接低分。" ] }, { "name": "育人与推广性", "score_range": [0, 10], "thinking_process_cot": [ "步骤1:分析教学设计是否体现'以学生为中心'。", "步骤2:判断可复制性:该AI应用模式是否依赖昂贵且罕见的设备?普通教师是否易于模仿?易推广者得分高。" ] } ] } ] }, "output_template": { "format": "JSON", "required_fields": [ { "field": "evaluation_summary", "description": "200字以内的整体评价,包含亮点与改进建议" }, { "field": "details", "structure": [ { "dimension": "维度名称", "score": "得分", "evidence": "引用原文作为证据", "reasoning": "简述扣分/得分理由" } ] }, { "field": "total_agent_score", "description": "Agent打出的总分 (0-90)" }, { "field": "flagged_issues", "description": "需要人类专家特别注意的问题(如疑似严重的知识错误)" } ] } } ``` ### 实施建议 1. **关于Prompt的组装**: 在使用这个智能体时,请将上述JSON代码完整地放入 System Prompt 中,并配合以下指令: > "请你严格按照以下 JSON 结构中的 `ccpe_config` 定义身份,并执行 `evaluation_workflow` 中的评分逻辑。特别是每一个指标下的 `thinking_process_cot`,必须在内心逐步推演后,再给出分数。" 2. **关于输入数据的预处理**: 为了让“互动氛围”评分准确,请确保传给Agent的录音文字稿(Transcript)已经尽可能做好了**说话人区分(Speaker Diarization)**,例如标记为 `Teacher:` 和 `Student:`。 如果您对这个 JSON 结构满意,您就可以直接将其部署到您的 CCPE 智能体中进行测试了。