花潮论坛

搜索
热搜: 活动 交友 discuz
查看: 1517|回复: 173

[灌水] 输入法词条权重问题的解决思路

[复制链接]
  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

    发表于 2021-9-5 10:37 | 显示全部楼层 |阅读模式

    请马上登录,朋友们都在花潮里等着你哦:)

    您需要 登录 才可以下载或查看,没有账号?立即注册

    x
    本帖最后由 马黑黑 于 2021-9-5 22:29 编辑

    全新建立起来的词库,导入输入法,得到的结果往往不理想,问题出在词条的排序上,常用的字不在候选框的第一页或不够靠前,用起来很是尴尬。

    分析原因,无非就是词条的权重问题。过去做五笔码表,手工调整词条权重,做完后发誓一周以内不再碰电脑,可见工作量之大。最近调试的码表,单字就有近10万的Unicode汉字,同样的问题又来了,怎么办?先用词库管理工具生成权重,试了几次,效果不行,得另辟蹊径,最终基本达成目标。

    方法有二:

    第一种:祭出 Excel 杀猪刀

    将常用字,比如 GBK 的 20902 个常用汉字放在一列,然后将词库码表粘贴到的二、三列,如下表所示——

    yuqq
    yujm
    yufu
    yuee
    yuyh
    yufu


    第四列用来放词条权重数据,下一步就在此列建立一个公式,用 match 函数检索 B 列的字在 A 列中是否存在,大于 0 即存在,说明它是 GBK 常用字,反之返回 #N/A 的错误值。

    =IF(MATCH(B1,A:A,0)>0,1000,)

    上面公式,match 套用了一个 if 函数,if 只返回正确值,错误值留空,因为设定错误值也没有用,得到的都是 #N/A。#N/A 不是需要的,所以再用一个 iferror 函数,将错误值变为 1 ,即非常用字的权重。

    =IFERROR(IF(MATCH(B1,A:A,0)>0,1000,),1)

    至此,填充公式即可。

    第二种:请出 EmEditor 水果刀

    用 EmEditor 打开码表文档,确保汉字放在第一列,如果不是,可以通过 CSV 排序调整列。接着,在工具条上的筛选栏输入以下正则式子:

    ^[一-龥]

    这个式子,^ 表示行的开头,[一-龥] 表示从 一 到 龥 的字任意一个出现一次,这样就过滤掉不是 20902 范围内的字,然后在 CSV 排序模式下在右边新增一列,全选新列,输入 1000 ,OK,常用字的权重生成了。

    非常用字也得有权重,否则在实际输入时它们无法往前“进步”。方法简单,反选或修改正则式子为 ^[^一-龥] 即可把它们全筛选出来,接着在新列输入 1 就完工。

    虽然这样生成的权重不是很科学,但效果可以接受,算是权宜之计吧。

    评分

    参与人数 7威望 +240 金钱 +480 经验 +240 收起 理由
    小辣椒 + 50 + 100 + 50 赞一个!
    绿叶清舟 + 30 + 60 + 30 赞一个!
    冬天的雨 + 30 + 60 + 30 赞一个!
    子梦 + 20 + 40 + 20
    大猫咪 + 30 + 60 + 30 赞一个!
    红影 + 50 + 100 + 50 赞一个!
    加林森 + 30 + 60 + 30 赞一个!

    查看全部评分

  • TA的每日心情
    开心
    2023-6-15 10:31
  • 签到天数: 525 天

    [LV.9]以坛为家II

    1383

    主题

    3万

    回帖

    10万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀青草情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀男儿情怀鹰傲苍穹花好月圆飞龙在天王者至尊大将风范天籁妙音共看流星风雨同行幸福快乐喜乐安康指尖上的流年花潮版主

    发表于 2021-9-5 11:33 | 显示全部楼层
    黑黑,你这个方法比较实用。太专业了。
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2025-12-1 20:32
  • 签到天数: 1052 天

    [LV.10]以坛为家III

    1883

    主题

    32万

    回帖

    37万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮美女虎龙狗猪多彩人生星月交辉海样胸怀火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀相遇之美一往情深花好月圆心香一瓣紫色情节飞龙在天金剪刀天籁妙音妙笔生花风雨同行我心永远天长地久幸福快乐绚丽缤纷喜乐安康中秋征文周年庆指尖上的流年舞会之星分析(喊冤)章总结章杀人王小强章最佳杀刺临屏写诗七夕诗钟活动第五届风云第六届风云情人节花潮管理

    发表于 2021-9-5 13:17 | 显示全部楼层
    这两个方法都是要把新词库里的GBK 的 20902 个常用汉字找出来,并排序靠前。为什么不直接用只有常用汉字的词库呢?能用到10万汉字的,肯定是对偏僻字需要用到的工作吧。
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2025-12-1 20:32
  • 签到天数: 1052 天

    [LV.10]以坛为家III

    1883

    主题

    32万

    回帖

    37万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮美女虎龙狗猪多彩人生星月交辉海样胸怀火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀相遇之美一往情深花好月圆心香一瓣紫色情节飞龙在天金剪刀天籁妙音妙笔生花风雨同行我心永远天长地久幸福快乐绚丽缤纷喜乐安康中秋征文周年庆指尖上的流年舞会之星分析(喊冤)章总结章杀人王小强章最佳杀刺临屏写诗七夕诗钟活动第五届风云第六届风云情人节花潮管理

    发表于 2021-9-5 13:21 | 显示全部楼层
    两个方法都需要把字库的字先放进来吧,那需要很多行。
    =IFERROR(IF(MATCH(B1,A:A,0)>0,1000,),1)

    这个公式里的1000指的是什么?
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2024-3-30 19:55
  • 签到天数: 577 天

    [LV.9]以坛为家II

    253

    主题

    2万

    回帖

    4万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮美女鼠牛虎兔龙蛇马羊猴鸡狗猪春风拂面心曲飞扬活泼开朗女儿情怀花好月圆心香一瓣飞龙在天王者至尊天籁妙音共看流星幸福快乐喜乐安康指尖上的流年花潮版主

    发表于 2021-9-5 13:23 | 显示全部楼层
    继续学习,谢谢老黑,周末快乐  
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2025-12-1 20:32
  • 签到天数: 1052 天

    [LV.10]以坛为家III

    1883

    主题

    32万

    回帖

    37万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮美女虎龙狗猪多彩人生星月交辉海样胸怀火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀相遇之美一往情深花好月圆心香一瓣紫色情节飞龙在天金剪刀天籁妙音妙笔生花风雨同行我心永远天长地久幸福快乐绚丽缤纷喜乐安康中秋征文周年庆指尖上的流年舞会之星分析(喊冤)章总结章杀人王小强章最佳杀刺临屏写诗七夕诗钟活动第五届风云第六届风云情人节花潮管理

    发表于 2021-9-5 13:23 | 显示全部楼层
    Excel 里的这个判断语句还能看明白点,EmEditor 的正则公式挺难难懂。

    “全选新列,输入 1000”为什么是1000?
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2022-1-14 21:03
  • 签到天数: 15 天

    [LV.4]偶尔看看III

    26

    主题

    1341

    回帖

    4388

    积分

    论坛元老

    Rank: 80Rank: 80Rank: 80Rank: 80Rank: 80Rank: 80Rank: 80Rank: 80

    花潮美女多彩人生火热情怀优雅迷人妙笔生花指尖上的流年

    发表于 2021-9-5 15:11 | 显示全部楼层
    谢谢友友分享。祝周末愉快!
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2021-1-10 16:07
  • 签到天数: 3 天

    [LV.2]偶尔看看I

    321

    主题

    1万

    回帖

    2万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮帅哥蝴蝶情怀心曲飞扬星星情怀七彩绚丽女儿情怀鹰傲苍穹花好月圆飞龙在天大将风范天籁妙音共看流星风雨同行天长地久喜乐安康中秋征文指尖上的流年花潮版主

    发表于 2021-9-5 16:39 | 显示全部楼层
    说的有道理
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 21:55 | 显示全部楼层

    感谢支持
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:05 | 显示全部楼层
    加林森 发表于 2021-9-5 11:33
    黑黑,你这个方法比较实用。太专业了。

    队长更专业
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:05 | 显示全部楼层
    子梦 发表于 2021-9-5 15:11
    谢谢友友分享。祝周末愉快!

    周末好
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:05 | 显示全部楼层
    红影 发表于 2021-9-5 13:23
    Excel 里的这个判断语句还能看明白点,EmEditor 的正则公式挺难难懂。

    “全选新列,输入 1000”为什么 ...

    权重大一点点吧,其实2也行,比非20902的字大就行
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:06 | 显示全部楼层
    大猫咪 发表于 2021-9-5 13:23
    继续学习,谢谢老黑,周末快乐

    天天快乐
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2023-6-15 10:31
  • 签到天数: 525 天

    [LV.9]以坛为家II

    1383

    主题

    3万

    回帖

    10万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀青草情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀男儿情怀鹰傲苍穹花好月圆飞龙在天王者至尊大将风范天籁妙音共看流星风雨同行幸福快乐喜乐安康指尖上的流年花潮版主

    发表于 2021-9-5 22:06 | 显示全部楼层

    那有你专业啊。你才是!
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:07 | 显示全部楼层
    红影 发表于 2021-9-5 13:17
    这两个方法都是要把新词库里的GBK 的 20902 个常用汉字找出来,并排序靠前。为什么不直接用只有常用汉字的 ...

    GBK和Unicode是两个档次的问题,就像蚂蚁和人类
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:08 | 显示全部楼层
    加林森 发表于 2021-9-5 22:06
    那有你专业啊。你才是!

    彼此彼此
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    擦汗
    2022-8-3 08:55
  • 签到天数: 480 天

    [LV.9]以坛为家II

    972

    主题

    2万

    回帖

    6万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮美女龙春风拂面蝴蝶情怀心曲飞扬七彩绚丽紫色情节音画大师天籁妙音共看流星我心永远幸福快乐指尖上的流年花潮版主

    发表于 2021-9-5 22:08 | 显示全部楼层
    又搞啥新输入法了
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:10 | 显示全部楼层
    绿叶清舟 发表于 2021-9-5 22:08
    又搞啥新输入法了

    也没啥,帮古籍爱好者弄个码表并封装成输入法,该输入法还得集成常规输入法
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2023-6-15 10:31
  • 签到天数: 525 天

    [LV.9]以坛为家II

    1383

    主题

    3万

    回帖

    10万

    积分

    版主

    Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7Rank: 7

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫缤纷心情草莓情怀青草情怀蝴蝶情怀心曲飞扬星星情怀七彩绚丽活泼开朗女儿情怀男儿情怀鹰傲苍穹花好月圆飞龙在天王者至尊大将风范天籁妙音共看流星风雨同行幸福快乐喜乐安康指尖上的流年花潮版主

    发表于 2021-9-5 22:11 | 显示全部楼层

    老黑不必客气啊
     
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-12-20 11:42
  • 签到天数: 1675 天

    [LV.Master]伴坛终老

    3053

    主题

    13万

    回帖

    28万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9Rank: 9

    花潮帅哥鼠牛虎兔龙蛇马羊猴鸡狗猪多彩人生星月交辉奔放热烈海样胸怀春风拂面火热情怀优雅迷人神秘浪漫相遇之美鹰傲苍穹花好月圆紫色情节飞龙在天王者至尊大将风范音画大师天籁妙音共看流星风雨同行我心永远幸福快乐喜乐安康侠骨柔肠心想事成开朗大方花潮管理

     楼主| 发表于 2021-9-5 22:25 | 显示全部楼层

    应该的应该的
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    小黑屋|手机版|Archiver|服务支持:DZ动力|huachaowang.com Inc. ( 蜀ICP备17032287号-1 )

    GMT+8, 2025-12-20 17:33 , Processed in 0.078882 second(s), 26 queries .

    Powered by Discuz! X3.4

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表