C#使用多线程模拟的MapReduce并行处理框架

本文介绍了如何在C#中使用多线程模拟MapReduce并行处理框架,重点在于程序入口线程属性的调整[MTAThread],以及在主线程中避免弹出对话框导致错误的方法。通过创建子线程处理弹窗操作,并展示了如何实现MapReduce的‘划分-合并’思想。

    使用多线程有几个需要注意的地方:

1.程序入口前的属性标签[STAThread]改为[MTAThread]

        /// <summary>
        /// 应用程序的主入口点。
        /// </summary>
        [MTAThread]

        static void Main(){...}

2.改为[MTAThread]后,主线程中弹出弹窗会出错,例如OpenFileDialog,此时应开辟子线程来弹出,设置线程属性

SetApartmentState(ApartmentState.STA)

        private void tbMXD_MouseDown(object sender, MouseEventArgs e)
        {
            Thread invokeThread = new Thread(new ThreadStart(InvokeMethod1));
            invokeThread.SetApartmentState(ApartmentState.STA);
            invokeThread.Start();
            //OpenFileDialog dialog = new OpenFileDialog();
            //dialog.FileName = tbMXD.Text;
            //dialog.Filter = "(*.mxd)|*.mxd";
            //if (dialog.ShowDialog() == DialogResult.OK)
            //{
            //    m_AE.LoadMxFile(dialog.FileName);
            //    tbMXD.Text = dialog.FileName;
            //}
        }
        private void InvokeMethod1()
        {
            OpenFileDialog dialog = new OpenFileDialog();
            dialog.FileName = tbMXD.Text;
            dialog.Filter = "(*.mxd)|*.mxd";
            if (dialog.ShowDialog() == DialogResult.OK)
            {
                tbMXD.Text = dialog.FileName;
            }

        }

C#使用多线程模拟的MapReduce并行处理框架如下,主要实现MapReduce框架的“划分-合并”思想,可以灵活改动:

    private static int MapCount = 3;

        private class Map
        {
            public object Input;
            public object Output;//Map执行完毕后输出给Reduce
            public Map(object input)
            {            }
            public void Assign(object input)
            {            }
            public void Run()
            {            }
        }
        //合并Map阶段各Map的工作
        private class Reduce
        {
            public Reduce(object input)
            {            }
            public void CombineData(object input)
            {            }
            public void Run()
            {            }
        }

        public void JobRun(object input)
        {
            object mapInput = new object();
            #region Map初始化
            var mapList = new Map[MapCount];
            var waitList = new EventWaitHandle[MapCount];
            for (int i = 0; i < MapCount; i++)
            {
                var handler = new ManualResetEvent(false);
                mapList[i] = new Map(mapInput);
                waitList[i] = handler;
            }
            #endregion
            #region 划分任务

            #endregion
            #region Map并行执行
            for (int i = 0; i < MapCount; i++)
            {
                new Thread(new ThreadStart(mapList[i].Run)).Start();
            }
            WaitHandle.WaitAll(waitList.ToArray());
            #endregion
            #region Map执行完毕,输出数据,执行Reduce
            object reduceInput=new object();
            Reduce reduce = new Reduce(reduceInput);
            foreach (var map in mapList)
            {
                reduce.CombineData(map.Output);
            }
            reduce.Run();
            #endregion
        }
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值