Синхронизация сообщений с boost::mpi send/recv?
Я называю mpirun с "-np 2". Я имею в виду процесс с рангом 0 как "ведущий" и процесс с рангом 1 как "ведомый".
Цель:
- мастер иногда отправляет сообщение на раб, например
mpi::send(1, UPDATE, data);
, Другие типы сообщений включают DIE, COMPUTE ... и т. Д. Эти типы сообщений являются постоянными целыми числами с уникальными значениями. - slave запускает бесконечный цикл, "слушая" любое сообщение от master. Когда он получает сообщение, он отправляет подтверждение мастеру.
Реализация:
раб работает:
...
int updateData, computeData;
mpi::request updateRequest = world.irecv(0,UPDATE, updateData);
mpi::request computeRequest = world.irecv(0,COMPUTE, computeData);
do {
cerr << "slave ready to take a command" << endl;
if(updateRequest.test()) {
cerr << "slave ireceived UPDATE" << endl;
world.send(0, UPDATE_ACK, 0);
cerr << "slave sent UPDATE_ACK" << endl;
/* do something useful
...
...
*/
updateRequest = world.irecv(0, UPDATE, updateData);
} else if (computeRequest.test()) {
...
} else {
boost::this_thread::sleep( boost::posix_time::seconds(1) );
}
}
пока мастер работает:
...
world.send(1, UPDATE, 10);
cerr << "master sent UPDATE" << endl;
int dummy;
world.recv(1, UPDATE_ACK, dummy);
cerr << "master received UPDATE_ACK" << endl;
...
больше контекста для мастер-кода:
...
// update1
world.send(1, UPDATE, params);
cerr << "master sent UPDATE" << endl;
int dummy;
world.recv(1, UPDATE_ACK, dummy);
cerr << "master received UPDATE_ACK" << endl;
// update2
world.send(1, UPDATE2, params2);
cerr << "master sent UPDATE2" << endl;
world.recv(1, UPDATE2_ACK, dummy);
cerr << "master received UPDATE2_ACK" << endl;
// update3
world.send(1, UPDATE3, params3);
cerr << "master sent UPDATE3" << endl;
world.recv(1, UPDATE3_ACK, dummy);
cerr << "master received UPDATE3_ACK" << endl;
...
// training iterations
do {
mpi::request computeRecvReq1, computeRecvReq2;
std::map<int, int> result1, result2;
// for each line in a text file, the master asks the slave(s)
// to compute two things and aggregates the results
for(unsigned sentId = 0; sentId != data.size(); sentId++) {
// these two functions won't return until at least one slave is "idle"
CollectSlavesWork1(computeRecvReq1, result1);
CollectSlavesWork2(computeRecvReq2, result2);
// async ask the slave to compute and async get the results
world.isend(1, COMPUTE, sentId);
computeRecvReq1 = world.irecv(1, RESULT1, result1);
computeRecvReq2 = world.irecv(1, RESULT2, result2);
}
// based on the slave(s) work, the master updates params1
// and send them again to the slave(s)
world.send(1, UPDATE, params);
cerr << "master sent UPDATE" << endl;
world.recv(1, UPDATE_ACK, dummy); // PROBLEM HAPPENS HERE
cerr << "master received UPDATE_ACK" << endl;
} while(!ModelIsConverged())
...
Выход:
...
раб готов принять команду
Мастер отправил ОБНОВЛЕНИЕ
раб получил ОБНОВЛЕНИЕ
ведомый отправил UPDATE_ACK
мастер получил UPDATE_ACK
раб готов принять команду
...
раб готов принять команду
Мастер отправил ОБНОВЛЕНИЕ
раб получил ОБНОВЛЕНИЕ
ведомый отправил UPDATE_ACK
раб готов принять команду
...
Проблема: в первый раз, когда мастер отправляет сообщение ОБНОВЛЕНИЕ, все кажется в порядке. Однако во второй раз мастер не получает UPDATE_ACK.