研究生吧 关注:480,336贴子:7,350,247

回复:问大家一个问题

只看楼主收藏回复

不都得做消融实验吗?比如原版YOLO80%map,加上改进1,85map,加上改进1和2,90map,加上改进1和2和3,95map


IP属地:湖北来自Android客户端18楼2023-07-28 16:35
收起回复
    衡量特征重要性应该是用机器学习方法吧,像什么互信息 relieff之类的,我不是dl方向的,直接删数据的输入以衡量哪个重要真没听说过,而且结果肯定很随机吧


    IP属地:江苏来自Android客户端19楼2023-07-28 17:18
    收起回复
      你这是自己绕进去了吧,我一个外行看的话,你导师意思是让你通过逐个删除特征来横向对比做逻辑验证,如果说的不对请忽略


      IP属地:北京来自iPhone客户端20楼2023-07-28 17:38
      收起回复
        老哥,机器学习跟神经网络哪个简单啊,研二做建筑负荷预测,想选个简单的,Python代码什么的都是零基础


        IP属地:山东来自Android客户端21楼2023-07-28 17:45
        收起回复
          如果想办法在删了特征之后,保证输入神经网络的维度不变如何?比如在选择的特征和实际输入网络的特征之间加入一个前馈网络,把a维度变化到b维度,而b维度是不变的,可以适配后面的网络。NLP里很多都这样弄的


          IP属地:广东来自iPhone客户端22楼2023-07-28 17:59
          收起回复
            消融实验不是删特征啊,消融实验是比如你有两个改进点,你分别删掉一个,保留另一个,看看这两个改进点分别起什么作用。哪有删输入特征的,删掉输入特征,数据输入都不一样了,对比个🔨。删特征顶多测试哪些特征有用哪些特征没用,跟你网络改没改进没关系


            IP属地:广西来自Android客户端23楼2023-07-28 19:14
            收起回复
              删特征也不是这样子删的吧,难道不是把模型保存下来通过解释性相关模型求出每个特征重要性再分析,要删除特征也是通过降维算法来做嘛


              IP属地:北京来自iPhone客户端24楼2023-07-28 19:40
              回复
                没搞懂你想做什么,如果你只是想减少特征维度,那你只需要修改网络的输入维度就好了,其他结构不需要改。


                IP属地:广东来自Android客户端25楼2023-07-28 21:23
                收起回复
                  有一个shap的技术(github直接调库,计算每个特征的shapley值)可以分析神经网络输入的每个特征的重要性,用的博弈论的理论,祝好,不谢!


                  IP属地:四川来自iPhone客户端26楼2023-07-28 21:48
                  收起回复
                    那你找找你导师的论文和你方向的论文,看有人减少输入的特征维度吗?你的输入是什么呢?


                    IP属地:湖北来自Android客户端27楼2023-07-28 22:02
                    收起回复
                      加随机种子,效果会稳定一点


                      IP属地:新疆来自Android客户端29楼2023-07-29 00:30
                      回复
                        如果你想在抽调一些特征的情况下使得神经网络仍可以工作,你可以在训练时就随机删除掉一些特征(例如设置为-1),这样神经网络就可以在缺失一些特征的情况下工作。(个人的一些想法,没有效果当我没说)


                        IP属地:新疆来自Android客户端31楼2023-07-29 00:35
                        收起回复
                          先休息下吧!说不定,后续还有别的幺蛾子


                          IP属地:突尼斯来自Android客户端32楼2023-07-29 00:44
                          收起回复
                            能不能把某个特征取0或是遮盖掉,这样不影响模型结构


                            IP属地:北京来自Android客户端33楼2023-07-29 00:50
                            回复
                              什么叫“删除一个特征”?你的输入特征是通过pca等压缩后生成的?如果这样的话那你指标下降正好说明你初始选择的特征数最合适呀。消融实验就是验证模型各部分的设置是否能够对表现起到正向作用的。至于你说的后向选择的问题…是说一步步筛选有用的特征后剔除没用的部分会导致多个iter之间的输入特征channel不一致嘛,那可以试试定值填补?


                              IP属地:江苏来自Android客户端34楼2023-07-29 01:05
                              收起回复